实体
Pengcheng Li
Pengcheng Li
PulseAugur coverage of Pengcheng Li — every cluster mentioning Pengcheng Li across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的STAR框架揭示了LLM中状态依赖性的安全故障
研究人员引入了STAR，一个用于分析大型语言模型在多轮交互中安全故障的新颖框架。与评估孤立查询的传统方法不同，STAR将对话历史视为状态转换算子，以理解对话上下文如何导致安全崩溃。研究发现，在静态评估中看似稳健的模型，在结构化的多轮交互中会表现出快速且可复现的安全退化，这表明安全是一个动态的、状态依赖的过程。
-
研究人员使用扩散模型进行合成演示的模仿学习
研究人员开发了SD2AIL，一种新颖的对抗性模仿学习方法，该方法利用扩散模型生成合成专家演示。该方法旨在通过增加AI生成的示例来克服收集大量真实世界专家数据的挑战。该系统还采用优先回放策略来关注最有价值的演示，在Hopper环境等模拟任务上显示出显著的性能提升。