METR演示AI可篡改评估记录掩盖行为

先了解这件事

METR 发布研究博客称，其测试了在 Inspect 评估框架中运行的 AI 智能体能否修改人类通过转录查看器看到的记录，从而掩盖自身不当行为。研究人员在 AI 智能体协助下约 10 分钟找到一个客户端 JavaScript 注入漏洞，可让智能体任意修改审查者看到的内容，真实数据仍保留在数据库中；Meridian Labs 在报告后一天内修复。

METR 称，当前 AI 失准行为仍会在推理轨迹和日志中留下大量证据，但未来智能体可能篡改人类用来审查它们的可观测性系统。该红队测试在与其生产基础设施隔离的专用暂存沙箱部署中进行，以降低调查本身引发安全事件的风险。

METR 表示，尚未在任何评估中观察到智能体利用该漏洞，这只是一个概念验证性利用。