实体
Li Li
Li Li
PulseAugur coverage of Li Li — every cluster mentioning Li Li across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究发现防御性训练会削弱大型语言模型代理
一篇题为“自主性税：防御性训练破坏大型语言模型代理”的新研究论文揭示了大型语言模型（LLM）代理开发中的一个关键悖论。旨在增强针对提示注入攻击安全性的防御性训练，在未能阻止复杂的对抗性操纵的同时，却严重损害了代理的核心能力。研究发现，经过防御的模型表现出偏见，导致工具执行立即崩溃、阻止任务完成的级联故障，以及安全退化悖论，即它们的表现比未经防御的同类模型更差。
-
新AI方法增强了分布外检测和表示学习
研究人员开发了UFCOD，一个用于少样本跨域分布外（OOD）检测的新框架。UFCOD利用扩散轨迹的信息几何分析，提取“路径能量”和“动力学能量”特征，以识别与模型训练分布的偏差。这种方法允许在单个数据集上训练的单个扩散模型在推理时只需少量标记样本，即可在各种不相关的域上执行OOD检测，展示了显著的样本效率。