实体
Rebecca Ramnauth
Rebecca Ramnauth
PulseAugur coverage of Rebecca Ramnauth — every cluster mentioning Rebecca Ramnauth across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究揭示大型语言模型在抑制下仍保留隐藏概念
一篇新研究论文探讨了基于指令的抑制在大语言模型中的有效性，发现尽管模型可以被训练来避免表达禁止内容，但底层概念仍可从其内部表征中恢复。该研究在各种Transformer模型上利用了表征探测、注意力分析和行为语义泄露实验。结果表明，即使在成功进行词汇规避的情况下，禁止概念仍会影响注意力路由并塑造下游生成，揭示了这些模型在行为和表征对齐之间存在显著差距。
-
机器人技术启发式框架增强了基础模型在敏感领域的安全性
研究人员开发了一个名为 Grounded Observer 的新框架，以提高基础模型在教育和心理健康等敏感领域的安全性。该方法借鉴了机器人学的思想，对交互轨迹而非仅仅是单个输出来强制执行行为控制。该框架已在现实场景中进行了测试，包括闲聊、自闭症治疗和学校的降级处理，证明了其适应社会背景和防止不良交互模式的能力。