InfoQ· Hannes Hapke·· 5 天前AI 评分46
Dataiku 开源 Kiji Inspector:用稀疏自编码器解释 AI 智能体工具选择
Presentation: Opening the Black Box: Critical Explainability for AI Agent Tool Selection with Kiji Inspector
AI 导读
Hannes Hapke 介绍 Dataiku 开源工具 Kiji Inspector,通过稀疏自编码器(SAEs)直接作用于决策 Token,揭示 AI 智能体选择特定工具的原因。该方法超越表层思维链叙述,结合因果消融与基于 patched vLLM 引擎的层激活提取,面向软件架构师和高级工程负责人提供生产监控流程。
来源:InfoQ · infoq.com