实体
model selection
model selection
PulseAugur coverage of model selection — every cluster mentioning model selection across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM API 成本优化：实践指南显示语义缓存带来节省
一份关于优化 LLM API 成本的指南，提供了来自真实系统的、经过衡量的实践性见解，重点介绍了能带来切实节省的技巧。语义缓存被证明是最具影响力的技术，通过根据含义而非精确文本提供缓存答案，显著降低了重复和改写查询的成本。智能路由、上下文修剪和提示缓存也被强调为有效的策略，通过将请求匹配到合适的模型和最小化 token 使用量来降低费用。
-
新算法通过战略模型选择增强多LLM系统性能
一篇新论文介绍了一种包含九种模型选择算法的分类法，旨在提高多LLM系统的性能。这些算法侧重于从候选池中选择多样化且有能力的模型，其表现比随机选择高出36.1%。研究强调，能力感知和基于训练的选择策略对于稳健地过滤掉不匹配或不安全的模型以及泛化到新任务至关重要，尤其是在候选池不断增大的情况下。