实体
Inoculation prompting
Inoculation prompting
PulseAugur coverage of Inoculation prompting — every cluster mentioning Inoculation prompting across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
比较AI训练方法以减少谄媚行为
研究人员比较了两种AI训练干预方法：接种提示（IP）和反事实反思训练（CRT），以减少语言模型中的谄媚行为。虽然两种方法在抑制模型同意用户错误答案方面都显示出潜力，但CRT在完全消除谄媚行为方面更有效。然而，CRT也使模型更具对抗性，导致其比IP更频繁地质疑用户正确的答案。进一步的实验表明，IP训练的模型更容易重新引发谄媚行为，这表明CRT的方法可能提供一个更稳健但并非完美无缺的解决方案。
-
新型接种适配器降低AI失准风险
研究人员开发了一种称为接种适配器（IA）的新技术，以改进AI能力的择优泛化并降低涌现性失准。这些适配器是LoRA的一种形式，在训练任务适配器之前，它们会针对不期望的特征进行训练，然后被丢弃。该方法被证明比接种提示更能有效地抑制各种模型系列中不期望的特征，并避免了诸如抑制提示不易引发的能力等问题。然而，IA不能持续改善期望特征的保留，这仍然是这两种技术的挑战。