Goodfire与Baseten推出AI内部监控探针

先了解这件事

可解释性初创公司 Goodfire 推出监控 AI 模型内部信号的探针系统：复用模型前向传播中已计算的中间激活，再运行分类器判断风险，而非只读取输出文本。Goodfire 称这是更便宜的方案，探针通过模型托管公司 Baseten 面向其客户提供，客户可自选监控攻击性黑客、生化武器滥用、reward hacking 等风险，响应方式可选记录、人工审查或拒绝请求。

Goodfire Research 称，已为 Kimi K3 和 GLM 5.3 构建“激活探针加 LLM judge”的监控级联并部署到生产推理栈，相比每轮都运行 judge，成本约为其五十分之一、每百万次交互低于 200 美元，保持基线推理吞吐且不增加延迟，在 5.5% 误报率下召回率达 93%，并在独立评估方的静态红队攻击集上将通用越狱降至 0%。

Baseten 随后宣布与 Goodfire AI 合作推出 Project Beacon，在模型生成过程中读取内部激活值，将主动式安全控制引入推理层，针对提示词注入、越权操作、敏感数据泄露和网络滥用等风险，由激活探针与文本监控并行分类每个请求，再按客户策略决定批准、拒绝、回退或记录。Baseten 称该能力将先与少量早期合作伙伴推向市场，未来数月先覆盖部分模型和受监控行为，再扩展至企业管控与开发者体验。