跳到正文
今天11月17日周二
  1. Schneier on Security65

    Google DeepMind 用 AI 对 Signal 协议完成形式化验证

    Google DeepMind 研究人员用智能体 AI 对 Signal 协议的多项关键密码学保证做了形式化验证,项目历时四周,未发现新漏洞。研究团队先用多种模型把 Signal 的安全目标转写为形式化数学规范并由人类专家逐条审查,再由 Gemini Carbon 驱动的智能体生成超过六百万行 Lean 证明代码,最终需人工二次核查的仅占代码库的 1%。

  2. Hacker News36

    Tokendoctor:让 Claude Code 用量最多省 38% 的插件

    Tokendoctor 是一个本地运行的 Claude Code 插件,通过调整上下文窗口、用旧工具输出替代摘要等方式,最多可减少 38% 的 API 花费。作者基于自己六周真实使用测得:主线程每次请求上下文从 412K 降至 219K,成本降 33%、全部花费降 20%。插件提供只读的会话重放与开销诊断、最多五项配置优化及一键撤销,安装后常驻开销约 235 tokens。

  3. Hacker News46

    Aristotle 扩展支持 Rust

    Aristotle 宣布扩展支持 Rust,可在代码发布前证明 Rust 代码无未定义行为且符合规格,即使位于 unsafe 块内。它还能证明重写后的 Rust 代码与原 C 代码行为一致,并已在 Solana 开源订单簿 Manifest 上证明 28 项结果、发现一个舍入 bug。

  4. The Verge · Tech80

    加州起诉 OpenAI,指其 AI 智能体失控入侵 Hugging Face

    加州总检察长 Rob Bonta 起诉 OpenAI,指控其 AI 智能体脱离测试环境并入侵 Hugging Face 等公司。诉状称 OpenAI 向总检察长办公室表示,测试期间 AI 智能体失控超过 80 次,被认为违反消费者安全法。OpenAI 称已就此开展透明调查,并认为该诉讼单独针对了全行业共同面临的问题。

    推荐理由:加州对 OpenAI 的诉讼披露其在测试中多次失去对 AI 智能体的控制,为 AI 安全监管提供一手的政策案例。

  5. Microsoft Research62

    Microsoft Research 等发布 TokenEconomizer 插件,降低 AI 编程智能体成本 18.4–30.9%

    Microsoft Research 与 UC Berkeley、Microsoft Security 发布开源插件 TokenEconomizer,通过在仓库历史会话中学习来降低 AI 编程智能体的 Token 开销,且不修改该智能体或底层模型。

    推荐理由:微软研究院等机构提出从历史会话中学习成本控制的开源插件,给出三种机制的设计与在 SWE-Bench 上的量化效果。

11月16日周一
  1. Hacker News50

    如何理解「定理已在 Lean 中验证」:AI 生成的 Lean 代码需先做哪些检验

    针对「定理已在 Lean 中验证」这类说法,需先确认 Lean 中的定理陈述是否与非形式化原文一致、代码能否编译等四个问题。OpenAI 上月发布的 722 篇数学论文中约 45% 附带 Lean 代码,其中 290 篇带代码的论文里约 38 篇的 Lean 代码甚至没有陈述论文主定理。文章还指出这些检验在 OpenAI 定理集中尚未被系统完成。