实体 Pardis Sadat Zahraei

Pardis Sadat Zahraei

PulseAugur coverage of Pardis Sadat Zahraei — every cluster mentioning Pardis Sadat Zahraei across labs, papers, and developer communities, ranked by signal.

Show in brief

总计 · 30天

90 天内 1

发布 · 30天

90 天内 0

论文 · 30天

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_294525 · Oct 12 · 04:00

新研究发现：大型语言模型安全训练抑制文化知识

一篇题为《对齐否决》（The Alignment Veto）的新研究论文探讨了大型语言模型中的安全训练如何抑制文化知识，尤其是在中东和北非（MENA）国家。该研究涉及26个模型和超过150万份人类调查回复，发现模型表现出一种“对齐否决”现象，即知识的内部分布被阻止输出，而不是被抹去。这种抑制导致了37.6%的不公平“安全税”，不同国家之间存在显著的质量差距，而使用母语提示也无法解决此问题。研究人员在Tulu-3-8B的直接偏好优化（D…

新研究发现：大型语言模型安全训练抑制文化知识