Vercel AI Gateway 9 月报告:开放权重模型占 56% Token 量,Astra 支出达 Fable 5.1 两倍
Vercel AI Gateway 9 月生产指数显示,8 月开放权重模型处理了 56% 的 Token 量,首次占据多数,而 2025 年 12 月这一比例不足 10%。
推荐理由:Vercel 基于 AI Gateway 真实流量披露开放权重模型首次占据多数 Token 份额,并给出前沿模型消费迁移的量化依据。
大语言模型与智能体的技术方向:Agent 框架、MCP 协议、工具调用与多步推理的进展。
Vercel AI Gateway 9 月生产指数显示,8 月开放权重模型处理了 56% 的 Token 量,首次占据多数,而 2025 年 12 月这一比例不足 10%。
推荐理由:Vercel 基于 AI Gateway 真实流量披露开放权重模型首次占据多数 Token 份额,并给出前沿模型消费迁移的量化依据。
GitHub 将 Copilot agent runtime 从 TypeScript/Node.js 完全重写为超过 80 万行生产级 Rust,代码主要由 AI 智能体编写,跨 128 个 PR 增量合入 main,运行时性能提升数个数量级。
推荐理由:GitHub 团队用 AI 智能体把 Copilot 运行时从 TypeScript 迁到 Rust,公开了 800 万行级会话数据与增量迁移方法。
OpenAI 的 GPT-Live 1 全双工语音模型现已上线 Vercel AI Gateway,可同时听和说,用户能在模型说话时暂停、打断或补充细节。该模型支持客户端委派,可独立选择后台文本模型,会话继续的同时由任意 AI Gateway 文本模型处理更深层任务,委派请求单独计费。
推荐理由:GPT-Live 1 全双工语音模型接入 AI Gateway,可边听边说并支持客户端委派文本模型处理复杂任务。
AWS 宣布面向新用户推出简化版上手体验,用合理默认值和简单管理替代先完成配置再开工的流程。用户可用 Google、GitHub、Apple 等已有身份注册,多数新客户无需信用卡即可开始并获得 100 美元免费额度,通过邮箱邀请协作者而无需了解 IAM。
推荐理由:AWS 把新用户上手流程改成默认配置加项目制,并让编码智能体直接部署资源,可对照其免信用卡与消费上限设计。
DeepSeek V4.1 Flash 已在 Vercel AI Gateway 上线,原生支持图像理解,可在同一请求中同时接收文本和图片。该模型上下文窗口为 100 万 Token,单次响应最长 384,000 Token,并支持推理、工具调用和提示词缓存,其新架构将输入处理与输出生成拆分为独立组件以降低各阶段的有效计算量。
推荐理由:DeepSeek V4.1 Flash 接入 AI Gateway,可对照其百万级上下文与视觉能力评估在编程智能体中的可用性。
OpenAI 发布 GPT-6 Astra,官方称这是其迄今最智能、对齐程度最高的模型。该模型在计算机操作、编程、网络安全和科学领域具备当前最佳能力。
推荐理由:OpenAI 发布新一代模型 GPT-6 Astra,官方称其在计算机操作、编程、网络安全与科学领域达到当前最佳水平。
Amazon Bedrock AgentCore Runtime 新增 runtime instances 计算选项,为 AI 智能体提供 AWS 托管的 EC2 基础设施,会话最长可保持 14 天,并支持 GPU 加速、会话停止重启和容器化部署。
推荐理由:AgentCore Runtime 新增常驻计算选项,把多天运行、GPU 与多智能体协作的基础设施交给托管服务。