实体
Balto
Balto
PulseAugur coverage of Balto — every cluster mentioning Balto across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新的BALTO框架在Token级别精准定位LLM幻觉
上海交通大学和腾讯的研究人员开发了BALTO，一个新颖的强化学习框架，旨在精准消除大型语言模型（LLMs）中的幻觉。该框架通过在Token级别分配信用，仅惩罚错误的Token，同时激励正确的、事实性的Token。这一方法在最近的一篇论文中有所详述，旨在保持模型响应的丰富性和信息量，这与传统方法不同，传统方法可能会因为微小的事实错误而过度惩罚整个答案。在金融和问答数据集上的实验表明，BALTO在稳定性、效率以及平衡事实准确性与信息内容方面表现出色。
-
AI拓展至贸易领域，探索自主循环，驱动基础设施增长 · 追踪10个来源
AI正日益应用于传统贸易领域，Google和Meta等公司正在投资于劳动力发展和人工智能驱动的工具，以服务于建筑和家庭服务等行业。这些工具包括处理客户来电的AI语音代理，以及优化调度和工作文档的软件。与此同时，AI发展领域正在探索“循环”概念，即代理提示其他代理以持续改进代码和任务，这一概念可能显著提升AI能力，但也带来了管理成本和信任方面的挑战。AI的广泛影响也被认为是一项涉及物理基础设施、能源和金融的巨大工程，而不仅仅是软件。
-
新的BALTO框架通过平衡令牌奖励解决LLM幻觉问题
研究人员开发了BALTO，一种用于减轻大型语言模型幻觉的新颖框架。该方法使用平衡的令牌级策略优化来更有效地分配信用，解决了局部幻觉和优化偏差问题。在ConFiQA和RAGTruth等多个基准上的实验表明，BALTO显著提高了忠实度，并与现有方法相比提供了更好的忠实度和信息量之间的权衡。