Steer
PulseAugur coverage of Steer — every cluster mentioning Steer across labs, papers, and developer communities, ranked by signal.
- 2026-05-26 research_milestone Introduction of the SteER framework for interactive deep research. 来源
1 天有情绪数据
-
新的STEER攻击利用多语言环境下的LLM安全漏洞 · 跟踪3个来源
研究人员开发了一种名为STEER（Safety Targeted Embedding Exploit via Refinement，通过精炼实现安全目标嵌入式漏洞利用）的新方法，以利用大型语言模型（LLM）安全训练中的漏洞。该技术针对主要以英语训练的模型，表明其安全机制对低资源语言和混合语言输入的泛化能力不佳。STEER在各种基准测试中实现了很高的攻击成功率，甚至可以迁移到GPT-4o-mini等模型，凸显了当前多语言安全对齐方面的重大差距。
-
新框架 SaFeR-Steer 提升了多轮对话中 LLM 的安全性
研究人员推出了一种新颖的框架 SaFeR-Steer，旨在提高多轮大型语言模型（LLMs）的安全性和有用性。这种渐进式对齐方法利用合成引导和导师参与的强化学习技术，在自适应攻击下训练模型，解决了单轮训练数据与真实多轮部署之间的不匹配问题。该框架还包含一个轨迹一致的总结性奖励（TCSR），以惩罚对话中的任何低质量回合。实验表明，当应用于 Qwen2.5-VL 模型时，在各种基准测试中，安全性和有用性均得到显著改善。
-
SteER框架在深度AI研究中实现交互式控制
研究人员推出SteER，一个旨在通过在长周期工作流程中实现交互式控制来增强深度研究能力的新框架。与目前采用僵化、一次性流程的现有系统不同，SteER允许用户在执行过程中途纠正方向和指导研究过程。该框架采用成本效益分析来决定何时寻求用户输入以及何时自主进行，并结合了关注多样性的规划和用于对齐、新颖性和覆盖率的效用信号。评估显示，SteER在对齐和质量方面显著优于当前基准，人类读者在超过85%的比较中更喜欢其输出。
-
新的AI方法通过结构化和选择视觉证据来增强视频推理能力
研究人员正在开发新方法，以改进大型视觉语言模型（VLM）理解和推理长视频的方式。几篇论文介绍了更有效的帧选择和证据收集技术，超越了简单的采样，采用了自适应策略。这些方法旨在通过关注特定查询最相关的视觉信息来降低计算成本并提高准确性。