实体
Debangshu Banerjee
Debangshu Banerjee
PulseAugur coverage of Debangshu Banerjee — every cluster mentioning Debangshu Banerjee across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究将奖励不确定性纳入以实现稳健的AI对齐
一篇新研究论文提出了一种在奖励不确定场景下进行策略优化的新方法，这对于AI系统的对齐尤为重要。该研究引入了一种将奖励不确定性纳入优化过程的方法，旨在提高稳健性。通过在合成数据、大型语言模型和奖励模型上的实验表明，与现有技术相比，该算法实现了更稳定的对齐结果。
-
SEVerA 框架验证自进化 AI 代理的安全性与正确性
研究人员推出了 SEVerA，一个旨在通过形式化安全性和正确性保证来合成自进化 AI 代理的框架。该方法将代理代码生成视为一个受约束的学习问题，将形式化规范与任务效用目标相结合。SEVerA 采用形式化守护生成模型 (FGGM) 来封装底层模型，确保输出符合指定合同并提供经过验证的回退机制。该框架在程序验证和符号数学合成等任务中取得了成功，实现了零约束违规，同时优于无约束基线。