实体
notdiamond
notdiamond
PulseAugur coverage of notdiamond — every cluster mentioning notdiamond across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
开发者构建 GreenRoute 以智能地将 AI 提示路由到本地或云端
一位开发者创建了 GreenRoute，这是一个本地优先的 AI 路由器，旨在确定用户的提示是可以在本地模型上处理，还是需要发送到云端。该系统根据任务类型和复杂性对请求进行分类，检查设备功能，并据此进行路由，同时提供其决策的解释。这种方法旨在减少对云的依赖，并与全云基线相比，估算在能源和资源方面的潜在节省。
-
GitHub列表汇编了管理LLM推理成本的工具
一个GitHub仓库已被创建，用于汇编管理和降低与大型语言模型（LLM）相关的成本的资源。该列表名为“awesome-llm-cost”，包括成本计算、令牌计数、可观测性、缓存、模型路由、提示压缩和自托管等工具。创建者在收到Anthropic的一笔巨额意外账单后，旨在整合有用的工具和技术，帮助他人避免类似的成本超支。