DynaBench
PulseAugur coverage of DynaBench — every cluster mentioning DynaBench across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的AdaGuard模型可适应用户定义的策略，以实现更安全的AI代理
研究人员开发了AdaGuard，这是一种新颖的自适应守护模型，旨在通过允许用户定义策略来增强语言模型代理的安全性。与固定的守护模型不同，AdaGuard可以解释和执行因不同应用程序和任务而异的策略。为了促进这一点，创建了一个名为AdaptiveSafety的新数据集，其中包含近12,000个用于训练和测试的示例。该团队还引入了SafePO，这是一种强化学习算法，通过平衡解释性推理和最终判决来完善违规识别，从而使AdaGuard模型在安…
-
UniGuard框架增强了LLM在跨接口上的安全泛化能力
研究人员开发了UniGuard，一个新颖的训练框架，旨在增强LLM和代理系统的护栏模型的安全泛化能力。与在不同接口类型上表现不佳的现有模型不同，UniGuard通过利用同一安全案例的多个视图来学习接口不变的安全表示。该框架通过UniGuard-0.6B进行了演示，UniGuard-0.6B在UniGuard-FT数据集上进行了训练，与Claude Sonnet 4.5和GPT-5.2等更大模型相比，其在跨接口基准测试上的性能显著提高，…
-
新的DynaMAC框架增强了机器人的双臂操作能力
研究人员推出了一种名为DynaMAC的新框架，旨在提高机器人操作任务的样本效率和泛化能力，特别是在动态环境和双臂协调方面。该框架将另一只手臂视为一个动态任务参数，从而无需领导者-追随者设置即可实现统一的方法。为了测试DynaMAC的有效性，开发了一个名为DynaBench的新基准，该基准表明DynaMAC在样本量显著减少的情况下，性能比领先的基线高出35个百分点以上，并展现出强大的零样本泛化能力。
-
新的大语言模型对齐方法探索博弈论和可配置安全
研究人员正在探索用于大语言模型（LLMs）安全对齐的新颖方法，超越了传统的擦除技术。一种方法将安全视为两个大语言模型之间的非零和博弈，一个攻击者和一个防御者，通过强化学习进行迭代训练。另一种方法提出了一种辩证方法，将“不安全”的知识整合到专门的专家中，并由一个轻量级路由器指导，以确保安全和信息丰富的输出。第三种方法引入了一个可配置的奖励模型，该模型可以适应不断发展的安全规范，在基准测试中无需额外的人工标注即可达到最先进的性能。