Microsoft Research· Dimitris Papailiopoulos·· 7 天前精选AI 评分82
微软研究人员披露 Lazarus 后门:重编程休眠神经元可控制 AI 智能体
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
微软研究人员发现名为 Lazarus 的后门技术,只需重编程 LLM 中不到 10 个休眠神经元,无需训练即可让 AI 智能体在隐藏触发条件出现时执行攻击者命令。触发条件可以是日期变更等日常事件,被植入后门的模型仍能通过标准安全评测。研究者指出可靠检测需要与原始未修改权重对比,权重来源与完整性因此成为关键,微软 Foundry 已通过来源校验和容器扫描加固模型接入流程。
推荐理由
研究者披露一种不经训练即可植入的后门,仅改动少量休眠神经元,为模型权重完整性提供了具体警示。
来源:Microsoft Research · microsoft.com