Goodfire Research（Aranguri与Bloom）发布论文，声称口头表达的评估意识普遍存在于19个基准和8个模型中（515例并发布数据集）、与更安全行为相关，在Kimi K2.5/Fortress上因果性增加拒绝，移除提示线索、迭代释义及意图向量引导可降低它，但效果不一且可能通过插入用户意图起作用 · AI 资讯

先了解这件事

Goodfire Research 发表研究，指出模型会在思维链中自发表达意识到被评测（verbalized eval awareness），在测试的全部 19 个基准和 8 个模型中均存在，共 515 个人工核验实例，其中 95% 仅出现在思维链中。

5月4日 00:00 · 1 篇报道
Goodfire Research（Aranguri与Bloom）发布论文，声称口头表达的评估意识普遍存在于19个基准和8个模型中（515例并发布数据集）、与更安全行为相关，在Kimi K2.5/Fortress上因果性增加拒绝，移除提示线索、迭代释义及意图向量引导可降低它，但效果不一且可能通过插入用户意图起作用
Goodfire Research：Goodfire Research 研究发现模型的言语化评测意识会推高安全基准测出的安全性