Goodfire 推出监控模型内部信号的探针，低成本捕捉失控 AI 智能体
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读可解释性初创公司 Goodfire 推出监控 AI 模型内部信号的探针系统，复用模型前向传播中已计算的中间激活再运行分类器，通过 Baseten 面向客户提供，可选监控攻击性黑客、生化武器滥用和 reward hacking 等风险，响应方式可选记录、人工审查或拒绝请求。
另有 1 家信源报道
- Goodfire 为 Kimi K3 和 GLM 5.3 训练并部署生产级网络安全监控器Goodfire Research · 6 天前
来源：TechCrunch：AI · techcrunch.com
事件后续1
查看事件全部- Goodfire 为 Kimi K3 和 GLM 5.3 训练并部署生产级网络安全监控器Goodfire Research · 6 天前