Training a Misaligned Reward Seeker

Anthropic 发布双重访问 Claude 模型，强调安全控制

Anthropic 发布了相同底层模型的两个版本，Claude Fable 5.1 和 Claude Mythos 5.1，通过不同的安全边界和访问控制进行区分。这种方法将重点从原始能力基准转移到不同用户群体如何在不同级别的监督下访问和利用该模型。Mythos 版本旨在用于网络安全和生物学等高风险应用，展示了显著的进步，包括近 50% 的蛋白质结合物命中率和深度学习模型的显著加速。