实体
1M context
1M context
PulseAugur coverage of 1M context — every cluster mentioning 1M context across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
LLM 通过新技术在消费级硬件上实现大规模上下文窗口
研究人员正在开发创新方法，使大型语言模型 (LLM) 能够处理更大的上下文窗口，即使在消费级硬件上也是如此。一种名为 JustFit 的方法使用 KV 压缩和状态管理等技术，在具有 24 GiB RAM 的笔记本电脑上提供 200K 令牌 LLM，实现了超过先前基线 6 倍的上下文。另外，一个 44M 参数的量化 LLM 从头开始训练，模型大小为 19.8 MB，在 CPU 上速度约为 1,900 令牌/秒，展示了推理和状态保持转换的…
-
用户通过KVarN量化在17GB模型上实现100万上下文窗口
Reddit的r/LocalLLaMA论坛上一位用户报告称，他成功加载了一个拥有100万token上下文窗口的大型语言模型，在24GB显存的显卡上使用了约17GB显存。这是通过一个基于Qwen的350亿参数模型实现的，使用了KVarN 4位量化方法来处理KV缓存。该用户能够从文本的各个部分提取信息，表明上下文窗口是功能性的，并且没有损坏。
-
智谱AI的GLM-5.2以1M上下文领先开源编码代理
智谱AI发布了GLM-5.2，这是一款开源AI模型，在编码任务中表现强劲，可与顶级闭源模型相媲美。该模型拥有100万token的上下文窗口，能够有效处理大型代码库和长期任务。GLM-5.2在Design Arena等基准测试中取得了顶尖排名，并在编码评估中取得了有竞争力的结果，使其成为AI编码代理领域的重要参与者。