Sead
PulseAugur coverage of Sead — every cluster mentioning Sead across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究应对多智能体AI安全与挑战 · 追踪7个来源
多篇研究论文正在探索多智能体系统（特别是由大型语言模型LLM驱动的系统）的高级安全和安保机制。这些研究解决了诸如防止组合智能体能力被禁止使用、确保持续更新其参数的自我演化智能体的安全，以及开发针对恶意指令或误导性信息的运行时防御等挑战。FlowReview、SAVER、HARDE、CoSec、SEAD和ORBIT等框架正在被引入，用于对智能体安全进行基准测试和增强，重点关注授权配对评估、纵向安全评估、风险感知工具优化、社区安全评估以及…
-
新研究挑战LLM的同策略自蒸馏，提出改进方法 · 跟踪10个来源
近期研究论文探讨了同策略自蒸馏（OPSD）在训练大型语言模型（LLMs）方面的局限性和潜在改进。研究表明，标准的OPSD可能导致死记硬背捷径并阻碍泛化能力，尤其是在长链推理任务中。Purified OPSD和DemoPSD等新框架旨在通过优化监督信号来解决这些问题，以防止过拟合并保留模型的推理能力。其他研究强调，虽然OPSD可以加速专业化，但它可能不足以支持持续学习，并且与其他强化学习方法相比，它可能表现出更强的遗忘效应。
-
SEAD框架在无人工标注的情况下改进服务对话代理
研究人员开发了SEAD，一个旨在提高服务对话中代理性能的新型框架。SEAD通过使代理能够在没有大量人工标注的情况下学习有效策略，解决了当前模型依赖嘈杂的人类对话数据的局限性。该框架将用户建模解耦为用于生成不同用户状态的Profile Controller和用于真实交互的User Role-play Model，确保了适应性训练场景。实验表明，SEAD的性能显著优于开源和商业模型，任务完成率提高了17.6%，对话效率提高了11.1%。