实体 k-NN predictor

k-NN predictor

PulseAugur coverage of k-NN predictor — every cluster mentioning k-NN predictor across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_254139 · Sep 15 · 04:00

新框架通过边缘-云路由将LLM碳排放量减少4倍

研究人员开发了一个新颖的碳感知路由框架，旨在优化具有函数调用能力的大型语言模型（LLM）的能源消耗。该系统将查询分布在三层边缘-云架构中，利用k-NN预测器估算每个查询的准确性、延迟和功耗。通过整合实时电网碳强度数据，该框架将查询路由到能够成功执行的最节能的层。评估表明，这种方法在保持云级准确性的同时，可以将运营碳排放量平均减少四倍。