Oscar
PulseAugur coverage of Oscar — every cluster mentioning Oscar across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
KVpop 方法在保持性能的同时大幅减少了 LLM 缓存内存使用量
研究人员开发了 KVpop,一种用于压缩自回归解码中键值缓存的新颖方法,这是大上下文窗口的一个重要瓶颈。KVpop 通过使用未来注意力目标直接监督保留或丢弃决策来学习驱逐策略,在保持高性能的同时实现了显著的内存节省。该方法在 Qwen3-4B 和 Qwen3-8B 等模型的数学推理任务上取得了强劲成果,优于现有的驱逐基线,并显著降低了内存成本。
-
HBO Max 年度流媒体套餐提供 28% 折扣
HBO Max 目前提供年度订阅套餐 28% 的折扣。此促销活动允许用户在全年内以较低的价格观看内容,包括《Sinners》等近期奥斯卡获奖影片。此次促销为访问该流媒体服务的内容库提供了一个经济高效的选择。
-
Nvidia、纽约大学和 Together AI 在 KV 缓存压缩和吞吐量方面取得进展
来自 Nvidia 和纽约大学的研究人员开发了 TurboQuant,一种 KV 缓存压缩方法,可在 3-4 比特下实现理论最优。同时,Together AI 的 OSCAR 系统通过采用注意力感知旋转,将吞吐量提高了 8 倍。Apple 的 EpiCache 解决了另一个独立的问题,所有这三种技术都被证明是互补的,而非竞争关系。
-
新的LLM KV缓存压缩方法应对安全性和效率挑战
研究人员正在开发新的方法来压缩大型语言模型(LLM)中的键值(KV)缓存,以减少内存使用并提高推理效率。AnchorKV通过偏向于不保留有害提示的token来关注安全性,而PolyKV通过对不同的Transformer层应用不同的策略和预算来优化压缩。Tangram在服务框架中实现了实用的非均匀KV缓存压缩,而BACON通过结合观察窗口注意力和最后查询证据来增强多模态KV缓存压缩。此外,TurboQuant和OSCAR代表了KV缓存量…
-
Together AI 的 OSCAR 将 KV 缓存内存减少了 8 倍
Together AI 发布了 OSCAR,这是一种开源的 2 位 KV 缓存方法,可显著减少内存使用量。与之前在长上下文下失败的 2 位方法不同,OSCAR 在高达 128K token 的情况下仍能保持性能。这项创新使用了 Qwen3-8B 模型进行演示,显示 KV 缓存内存减少了 8 倍。
-
Together AI 开源 OSCAR 以实现高效 LLM 服务
Together AI 已开源 OSCAR,这是一个用于 2 位 KV 缓存量化的新系统。该技术旨在提高大型语言模型(尤其是具有长上下文窗口的模型)的服务效率。此项开发紧随 turboquant 等量化方法的最新进展,表明 LLM 优化正在快速发展。
-
Forus 凭借人工智能驱动的处方处理服务估值达 10 亿美元
Forus 是一家健康科技初创公司,现已达到 10 亿美元的估值,并获得了 1.6 亿美元的融资,以解决处方无人领取的重大问题。该公司利用人工智能简化处方处理的后台管理,确保患者更有效地获得药物。其技术协助医疗机构应对复杂的保险流程,提高处方领取率,目前已有数千家机构依赖其系统。
-
奥斯卡奖禁止AI生成的演员和剧本参与评选
美国电影艺术与科学学院已裁定,从第99届奥斯卡奖开始,人工智能生成的演员和剧本将不符合奥斯卡奖的评选资格。此决定是在近期好莱坞罢工期间经过大量讨论后做出的。此举旨在保护电影制作中的人类创造力。
-
2026年奥斯卡禁止AI演员和编剧;Meta收购Assured Robot Intelligence
美国电影艺术与科学学院已决定从2026年起禁止AI生成的演员和编剧获得奥斯卡奖资格。这一决定是在行业进行了大量讨论并解决了编剧罢工问题之后做出的。与此同时,Meta收购了Assured Robot Intelligence,以推进其开放的、类似Android的人形机器人平台开发,整合先进的AI推理和设备端部署能力。
-
新方法解决长上下文 LLM KV 缓存压缩问题
2026年5月和6月发布的多篇研究论文提出了压缩大型语言模型(LLM)键值(KV)缓存的新颖方法。这些技术旨在减少与长上下文长度相关的显著内存开销,从而在资源受限的环境中实现更高效的推理。方法包括偶发式管理、用于合并的全局回归、抗漂移检索和低秩近似,所有这些都旨在在大幅降低内存使用量和延迟的同时保持模型准确性。
-
Nyckel 发布面向开发者的 ML 分类器工具
Nyckel 是一家获得 Y Combinator 支持的初创公司,已推出一个平台,旨在简化机器学习分类器的创建和部署,让没有 ML 经验的开发者也能轻松上手。该服务允许用户使用最少的标记数据,在几分钟内训练图像和文本分类模型,从而抽象化复杂的 ML 概念。Nyckel 的 AutoML 引擎利用元迁移学习和并行处理来实现快速训练,部署后的模型可通过 REST API 访问。