实体 llm-ports

llm-ports

PulseAugur coverage of llm-ports — every cluster mentioning llm-ports across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_88181 · Jun 12 · 20:10

llm-ports v0.1.0-alpha.19 规范化 LLM 提示缓存

llm-ports 库已发布版本 0.1.0-alpha.19，为 Anthropic、OpenAI 和 Gemini 等不同 LLM 提供商引入了统一的提示缓存接口。此新版本规范了开发人员如何与缓存机制进行交互，这些机制在不同提供商之间存在显著差异。此次更新还包含一项重大更改，将 `cost.cacheDiscountUSD` 重命名为 `cost.cacheSavingsUSD`，以更好地反映缓存命中带来的成本节省性质。