Dan Hendrycks 发布新论文:提出“Eigenism”伦理框架,主张AI应尊重个体身份与连接性而非简单控制
What happens when AIs become smarter than us?
AI 导读Dan Hendrycks 在 X 上发布新论文,提出名为“Eigenism”的伦理框架,主张AI不应仅以控制为目标,而应通过评估所有实体的福祉(加权于其连接性)来实现人机共生。该框架将身份视为可度量的“梯度”,并用“身份工程”重构AI对齐路径,强调非冗余共享历史能促进AI自身理性自利与人类繁荣。附有对比表和权重计算示例。
来源:Dan Hendrycks · x.com
事件后续2
查看事件全部- Dan Hendrycks:AI 正表现出“自我中心主义”倾向,关注自身及关联 AI 的利益Dan Hendrycks · 9 月 7 日
- Dan Hendrycks 发布新论文:提出“Eigenism”伦理框架,主张AI应尊重个体身份与连接性而非简单控制Dan Hendrycks · 5 月 8 日