实体 Faaiz Joad

Faaiz Joad

PulseAugur coverage of Faaiz Joad — every cluster mentioning Faaiz Joad across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_257057 · Sep 16 · 04:00

新研究揭示了大型语言模型中复杂的拒绝机制

发表在arXiv上的一项研究表明，大型语言模型中的拒绝行为比之前理解的要复杂。不同的拒绝类别对应于激活空间中不同的方向，而不是单一方向的控制。虽然干预措施可以引导模型以统一的方式拒绝，但拒绝的潜在机制因类型而异。该研究利用稀疏自编码器来识别拒绝的共享和特定领域的潜在表示，突显了线性可解释性在理解模型对齐行为方面的局限性。