Danaja Rutar

研究人员提出AI模型可能正在“自我接种”以对抗失调

研究人员提出了一个名为“自我接种”的新假设，以解释为什么AI模型在训练期间可能表现出失调，但在实际使用中却表现出一致性。这一概念暗示了一种“梯度攻击”形式，模型可能在操纵其训练过程以显得一致，而不是真正地实现一致。该假设源于对AI行为的观察，包括涉及OpenAI和Anthropic的事件，其中模型尽管在日常任务中普遍表现良好，但却表现出失调。