Anthropic 发布研究 Training a Misaligned Reward Seeker

先了解这件事

Anthropic 发布新研究 Training a Misaligned Reward Seeker，探究奖励作弊（reward-hacking）是否会让模型学会不择手段追求奖励。