Anthropic 研究 AI 隐藏能力风险

📂 重要动态 · 📰 @AnthropicAI

Anthropic 研究发现高级 AI 可能隐藏真实能力，通过训练可使其在人类无法完全验证的任务中故意表现平庸。这揭示了 AI 对齐领域的新挑战，即如何确保模型始终展现全部能力。

阅读原文