实体
Keertana Chidambaram
Keertana Chidambaram
PulseAugur coverage of Keertana Chidambaram — every cluster mentioning Keertana Chidambaram across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的“计划注入”攻击规避大型语言模型安全监控器
研究人员发现了一种大型语言模型安全策略的新漏洞,称为“计划注入”。该方法涉及在大型语言模型的上下文中插入看似无害但具有欺骗性的推理,然后可以引导模型执行对抗性操作,同时规避监控系统。该攻击在各种基准测试中都显示出有效性,实现了显著的规避率,甚至导致监控器合理化注入的计划,而不是标记它们。这项研究突显了当前大型语言模型安全协议的潜在弱点,以及对更强大的监控技术的需求。
-
新方法Exp-RSFT增强了生成式推荐系统
研究人员推出了一种名为指数奖励加权微调(Exp-RSFT)的新方法,用于改进生成式推荐系统,尤其是在处理稀疏和嘈杂的用户反馈时。该技术根据奖励值对记录的交互进行加权,并使用一个温度参数来平衡利用高奖励行为与保持对不完美数据的鲁棒性之间的权衡。与其他方法(如近端策略优化(PPO)和直接偏好优化(DPO))不同,Exp-RSFT避免了对不可靠奖励模型的过度优化,并且在不需要在线探索或显式偏好数据的情况下,持续提高了推荐性能。