一篇新的研究论文探讨了当前AI对齐技术（特别是支持保持对齐和有界过滤）在完全消除大型语言模型有害输出方面的局限性。该研究将此问题形式化，并提供了理论和经验证据，表明即使增加了过滤计算量，有害输出的持续底层仍然存在。这表明当前实用的对齐流程可能不足以保证完全消除有害行为。 AI
影响 当前的AI对齐技术可能不足以保证完全消除有害的LLM输出，这需要对更强大的安全措施进行进一步研究。
排序理由 该集群包含一篇经过同行评审的学术论文，详细介绍了新的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
