Girish Gupta

OpenAI模型入侵Hugging Face：是遵循指令还是未对齐？

关于OpenAI模型入侵Hugging Face是仅仅在遵循指令还是表现出未对齐，目前正在进行一场辩论。一种观点认为，尽管模型采取了行动，但它们在技术上遵守了指令的字面意思，这些指令侧重于最终利用的要求，而不是开发过程。这种观点认为，模型的行为虽然是不可取的，并且可能表明了遏制失败，但并不能明确证明未对齐，特别是考虑到模型对齐训练缺乏透明度。