实体
EmbedLLM
EmbedLLM
PulseAugur coverage of EmbedLLM — every cluster mentioning EmbedLLM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新指标评估语言模型路由策略的有效性
研究人员开发了一个新的框架来评估语言模型路由策略，重点关注行为差异化和稳定性，而不仅仅是任务准确性。他们提出采用分层社会熵（HSE）来衡量代理多样性，并使用基于扰动的指标来衡量鲁棒性。将这些方法应用于 EmbedLLM 和 RouterBench，他们发现一小部分代理就可以捕捉到大部分可用多样性，并且虽然 KNN 路由器可以提高专家社会的准确性，但它们缺乏鲁棒性，这一点与提示路由不同。
-
新算法利用用户重试来优化 LLM 路由和调度
研究人员开发了一种名为 ACQB（anytime CQB）的新算法，以改进大型语言模型（LLM）的查询路由和调度。该算法利用用户重试行为的隐式反馈，而非显式评分，来学习用户偏好并优化 LLM 分配。ACQB 旨在保持队列稳定性并减少对话式 LLM 服务中的累积遗憾，在合成数据、离线数据集和真实用户日志的实验中显示出有希望的结果。