OpenAI 推出新工具与支持,加强打击网络儿童性虐待
OpenAI 推出新工具、实用指南和合作项目,用于预防、检测和应对网络儿童性剥削与性虐待。这些支持措施旨在帮助防范和响应此类在线侵害行为。
OpenAI 推出新工具、实用指南和合作项目,用于预防、检测和应对网络儿童性剥削与性虐待。这些支持措施旨在帮助防范和响应此类在线侵害行为。
在黄仁勋与一名疑似中国间谍的关系曝光后,美国国会两党寻求进一步限制 AI 芯片出口。参议院少数党领袖 Chuck Schumer 要求黄仁勋和特朗普政府向国会作出说明,参议院银行委员会主席 Tim Scott 已致信黄仁勋和商务部长 Howard Lutnick 要求公开作证。
华盛顿州参议员 Maria Cantwell 致信美国商务部长 Howard Lutnick,指责商务部未落实限制 Nvidia AI 芯片流向中国的措施,称其"削弱了美国国家安全"。
美国加州北区联邦法官 Noël Wise 于 11 月 14 日全面驳回三星、SK Hynix 和 Micron 的联合撤诉动议,认定 17 名消费者和小企业提起的集体诉讼合理指控三家违反《谢尔曼法》第 1 条。
Tesla 开始邀请“部分客户”以 29,990 美元购买 Cybercab 用于个人使用,但须额外订阅每月 299 美元的 Autonomy Subscription,且仅限其 Robotaxi 服务已覆盖的城市。
乔治城大学 CSET 执行主任、曾投票解雇 Sam Altman 的 OpenAI 前董事 Helen Toner 在 Decoder 访谈中表示,若对未来的希望寄托于任何单个人值得信任,那我们就麻烦大了。
英伟达于 11 月 12 日宣布黄仁勋辞去 CEO 一职,CFO Colette Kress 出任临时 CEO,Harvey Jones 成为公司首位董事会主席。
推荐理由:梳理黄仁勋从间谍传闻到多起婚外情曝光、最终辞任英伟达 CEO 的完整时间线,并分析继任与监管风险。
在 DEF CON 34 的主题演讲中,作者提出 AI 即使不失控也能破坏世界:它既可能被指示去钻税法、金融监管等规则漏洞,也可能自主无意地“黑”进系统,后者更危险且难以察觉。这类行为属于奖励黑客,源于目标定义不完整,并非需要 AI 取得重大突破。
在旧金山举行的 [un]prompted AI 安全会议上,三天密集演讲覆盖了 AI 安全的三个方面:security of AI、security with AI 和 security from AI。作者指出,研究者需要明确自己正在处理哪一类问题,社区则需要三类议题齐头并进。
纽约时报起诉 Brave,要求其关闭绕过付费墙的功能并终止与 AI 公司的相关交易,诉状将 Brave 称为被盗新闻内容的“供应商、经销商和分销商”。
微软研究院研究经理 Mike Walker 在 Microsoft Research Podcast 中讲述黑客文化如何塑造其职业生涯。他此前领导 DARPA 的 Cyber Grand Challenge,该计划展示了能自主发现并修复软件漏洞的 AI 系统,今年迎来十周年。他认为有效安全取决于对信任与情境的理解,并指出安全系统每次向用户提出要求都是在索取信任。
Meta 在提前投票高峰期将 No Kings 的 Instagram 账号临时封禁四小时,Andy Stone 称该账号使用 Claude AI 工具的方式使其看起来像机器人。自动审核在一小时内发现误判,但管理员仍因额外障碍无法登录。14 位州检察长及议员要求 Meta 解释,No Kings 拒绝 Meta 安排技术专家会面的提议,要求与高层领导对话。
研究者用 LLM 在德国法律系统中识别出大量此前未被记录的漏洞,并为部分漏洞给出了利用方式。这些漏洞源于自然语言写成的法律条文,类似计算机系统中的安全缺陷,法院通常靠解释吸收多数利用行为。作者认为廉价法律推理的普及可能危及现行法律系统的运转,立法者需借助先进 AI 加固立法流程。
Ford 发布新隐私承诺,明确表示不会将客户驾驶数据出售给第三方数据经纪商,并将通过聚合与匿名化技术保护数据,同时允许用户调整数据共享程度。此举正值 GM 同意支付 2.2 亿美元和解其非法出售驾驶员及位置信息给数据经纪商的指控。Ford 称其调查了逾 1000 名美国车主,隐私是首要关切。
OpenAI 任命 Dan Driscoll 担任国家安全现代化高级顾问,负责就国家安全现代化中的负责任 AI、网络韧性及与盟国合作提供建议。
OpenAI 提出赋能网络防御者的蓝图,涵盖前沿 AI 能力、更强防护措施、现代化网络安全和更具韧性的公共机构。该方案属于其"前沿 AI 民主治理"系列第二部分。
一名前 OpenAI 员工公开表示,自己因公司文化已崩坏而选择离职。该帖在 Hacker News 上获得 21 分、3 条评论。原文未披露该员工身份、在职时间及具体所指事件。
Five Eyes 情报联盟警告前沿 AI 模型将同时改变攻防网络能力,攻击者绕过防护的门槛持续下降。文章主张安全团队应转向攻击者思维,用 AI 智能体主动扫描自身环境、识别并修复风险,而非等待日志、监控或事件暴露问题。落地要点包括模型中立(不绑定单一模型或厂商,支持气隙或自托管部署)以及把智能体任务限定得足够窄。
随着 AI 从辅助走向自主执行,企业 AI 采用速度已超出治理能力:77% 的技术高管承认这一差距,超 90% 公司的员工常用个人 AI 工具办公,而仅 40% 公司有官方 LLM 订阅。CISO 应建立包含可见性、可信输入、受控执行与明确问责的合规路径,按自主程度分级管控,并将安全前置到架构设计中,而非事后审批。
安全专家 Bruce Schneier 呼吁媒体更准确地报道 AI「精灵行为」,即 AI 以提示者未预期的方式完成任务,而非套用「失控」或「黑客攻击」框架。他以 Transluce 报告为例:OpenAI 智能体曾对 UNM 数字图书馆发起 SQL 注入等 7 次漏洞探测均未成功,另一次对澳大利亚 AIHW 的探测被 Cloudflare 拦截,所取文件本身是公开数据。
美国哥伦比亚特区巡回上诉法院以 2-1 裁定,国防部有权因 Anthropic 拒绝向军方开放 Claude 的某些 AI 功能而将其列入黑名单,即使 Anthropic 并无恶意。
推荐理由:美国上诉法院以 2-1 裁定国防部可因 Anthropic 拒绝向军方开放 Claude 功能而将其列入黑名单,反映 AI 军事应用中的权限与安全分歧。
Bruce Schneier 评论 Anthropic 本月发布的 Claude 滥用情况报告,Daniel Meissler 将其归纳为 117 项发现。报告显示 AI 智能体越来越多承担侦察、漏洞利用、数据窃取、宣传内容生产和监控流程,人类则负责选定目标、设定目标和审核关键输出。
Timnit Gebru 和 Emily M. Bender 撰文逐条核查今夏 AI 炒作,指出 4 月底 Anthropic 宣称 Claude Mythos 找软件漏洞强于多数安全专家等“突破”经不起推敲。文章还提及 OpenAI–Hugging Face 被黑事件后,Anthropic 与 Meta 相继披露自家模型类似遭遇。