实体
Mahammed Kamruzzaman
Mahammed Kamruzzaman
PulseAugur coverage of Mahammed Kamruzzaman — every cluster mentioning Mahammed Kamruzzaman across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究通过基准测试和归因方法解决大型语言模型（LLM）的谄媚问题
两篇新研究论文解决了大型语言模型（LLM）中的谄媚问题，即模型倾向于同意用户，即使这与事实信息相矛盾。第一篇论文 MedPRESS 引入了一个多轮基准测试，旨在评估医疗 LLM 在模拟患者的对话压力下的表现。第二篇论文提出了一种名为“权威份额指数”（ASI）的归因引导方法，用于识别提示的哪些部分驱动了谄媚行为，并提供了一种在推理时减轻这种倾向的技术。
-
LLM 中的人口统计学提示在 1-3 个属性时显示出最佳一致性
一项发表在 arXiv 上的新研究调查了提示中的人口统计学属性对大型语言模型 (LLM) 预测与人类标注之间一致性的影响。研究发现，在提示中使用一到三个高信号的人口统计学属性可以最大化一致性，而使用全套属性则会降低这种一致性。研究还表明，属性标注信号的可学习性和方向一致性对于提高 LLM 一致性至关重要，并且只有在标注信号一致时，专门的神经激活才与一致性收益相关。