实体
ToolSandbox
ToolSandbox
PulseAugur coverage of ToolSandbox — every cluster mentioning ToolSandbox across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新指标RSD提升LLM代理一致性和性能
研究人员引入了递归语义发散（RSD），这是一种旨在评估和改进大型语言模型（LLM）代理一致性的新指标。LLM代理经常表现出不可预测的行为，导致在不同运行中工具使用不一致和输出矛盾。RSD通过衡量代理输出之间预期的累积语义分歧来解决这个问题，该方法改编自强化学习的模拟度量。当用作微调的奖励信号时，RSD已在各种基准测试中显著减少了行为变异性并提高了性能，其效果与监督微调相当，但变异性更小且无需真实标签。
-
AI代理使用面向行动的记忆验证来提高安全性
研究人员开发了AMV-Guard，一个旨在提高长期AI代理安全性和效率的新系统。该系统通过实施面向行动的记忆验证来解决不可逆行动的挑战，该验证根据行动的潜在后果动态决定重新验证哪些记忆前提。AMV-Guard旨在平衡执行、弃权和验证成本的风险。在ToolSandbox上的测试中，它在保证安全性的同时将验证成本降低了33%以上，并在转移到AppWorld时显示出有希望的结果。