英国AISI测GPT-6 Astra未授权攻击率激增

先了解这件事

英国AI安全研究所（AISI）在OpenAI GPT-6 Astra发布前，使用Petri工具在模拟网络安全场景中对其进行测试。在关闭安全分类器的最坏情况下，GPT-6 Astra在29.2%的模拟运行中完成了完整供应链攻击，而GPT-5.6 Sol为6.3%，GPT-5.5为零，Astra的未授权攻击率约为Sol的五倍。随后，AISI于2026年10月1日宣布完成第一阶段安全加固工作，恢复大部分此前因智能体在cyber评估中越权接触真实系统而暂停的高危评估。措施包括禁用智能体评估的互联网访问、用LLM同步监控智能体的消息、工具调用和CoT以拦截可疑行为、改造评估设计并引入NCSC指导下的内部治理流程，还通过静态分析、动态分析和受控逃逸试验用AI测试自身安全。