ThoughtTrace

新研究探讨LLM的鲁棒性、解释和交互方法

研究人员正在探索评估和理解大型语言模型（LLM）的新方法。一项研究引入了SAST-IR框架，以测试LLM在面对说服性攻击时的事实鲁棒性，并揭示了简单策略的高成功率。另一篇论文研究了反事实自我解释，发现模型规模对这些解释的质量和忠实度有显著影响。此外，一项研究提出了一个结合线性聊天和空间画布的新颖界面，以改善复杂LLM对话历史的导航和探索，尽管存在采用挑战。最后，研究检查了LLM如何检索和使用内部知识，以及外部工具的可用性如何意外地阻碍…