跳到正文
事件追踪追踪中

微软研究:休眠神经元可植入AI后门

首次报道 最新进展 1 篇报道,1 个来源

事件综述根据 1 篇报道整理,11月11日更新

微软研究院称,重编程AI智能体中少量休眠神经元即可植入后门:智能体平时表现正常,遇到特定触发条件才激活异常行为。 微软建议企业核查模型来源并审慎管理权限;Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供来源安全机制。该结论来自微软研究院的演示,报道未说明实验规模与复现情况。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. Microsoft Research微软研究院揭示AI智能体休眠神经元后门

    阅读这篇报道

全部报道

1 篇,点开看摘要
微软研究:重编程休眠神经元可在AI智能体中植入后门Microsoft Research未入选

Microsoft Research 新研究显示,重编程 AI 智能体中少量休眠神经元即可植入后门,使智能体平时表现正常、遇到特定触发条件才激活异常行为。微软建议企业核查模型来源并审慎管理权限,Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供来源安全机制。

阅读这篇报道