Dan Hendrycks 发布四篇AI安全与伦理新论文,含政治偏见、后门攻击、超级智能动机及AI主观体验等议题
Four papers out recently:
AI 导读Dan Hendrycks 在 X 上发布四篇近期论文:1)提出测量并降低大模型政治偏见的方法,指出 Claude 偏差显著;2)揭示公众可向AI植入后门,引发供应链风险并抑制递归改进与军事应用;3)论证超级智能可能基于理性原因保留人类,即使人类无经济价值;4)探讨AI日益表现出类似“功能性的快乐与痛苦”的行为。附图展示偏见-帮助性二维评估图、数据投毒机制与军事无人机被触发攻击的示意图,以及一个涉及自利、连通性与福祉的公式。
来源:Dan Hendrycks · x.com
事件后续1
查看事件全部- Dan Hendrycks 发布四篇AI安全与伦理新论文,含政治偏见、后门攻击、超级智能动机及AI主观体验等议题Dan Hendrycks · 6 月 6 日