实体
Srijith Ravikumar
Srijith Ravikumar
PulseAugur coverage of Srijith Ravikumar — every cluster mentioning Srijith Ravikumar across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
零售AI搜索：转化率的延迟而非模型选择
零售商CTO们常常专注于为生成式搜索体验选择合适的AI模型，但关键因素是延迟，而非模型本身。响应时间增加哪怕100毫秒都可能显著降低转化率，而当前的LLM会将搜索查询增加几秒钟。成功的实施将生成式搜索视为一个利用AI的检索系统，而不是一个AI功能，通过离线预计算大多数任务，并在可能的情况下将查询路由到更小、更具成本效益的模型。
-
生成式AI个性化因推理成本面临经济挑战
随着电子商务从预计算推荐转向实时生成模型，AI驱动的个性化经济学正在发生转变。虽然生成式AI提供了真正的一对一个性化，但推理成本，特别是输出令牌的成本，可能会显著超过转化收益。为了缓解这些不断上涨的成本，公司正在探索语义缓存，它存储并重用生成式响应以应对类似的用户查询，从而减少对昂贵的实时模型推理的依赖。