Yarn
PulseAugur coverage of Yarn — every cluster mentioning Yarn across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
LLM KV 缓存显存计算器：将大上下文装入有限内存
一篇技术博文详细介绍了如何计算大语言模型上下文长度所需的显存（VRAM），重点关注 KV 缓存。它提供了一个公式，根据模型架构和上下文大小估算显存需求，并为 Qwen3 32B 和 Llama 3.3-70B 等热门模型的每 token 缓存大小提供了数据。该博文还概述了将更大上下文装入有限显存的策略，包括 KV 缓存量化、设置适当的上下文限制以及管理并行性。
-
Spark 广播连接：过大的表如何拖垮驱动程序节点
本文深入探讨了 Apache Spark 中广播连接（broadcast joins）引起的性能问题，特别是当被广播的表过大，超出驱动程序节点的内存容量时。作者通过一个实际案例，讲述了一个日常对账作业因驱动程序发生 `OutOfMemoryError` 而失败，原因是不断增长的商家维度表被设计为广播。文章指出，广播提示（broadcast hints）不会根据表的大小动态调整，当被广播的数据超出驱动程序的容量时，可能导致失败和大量资源…
-
新工具保护 AI 编码代理免受包供应链攻击
一位开发者创建了一个名为 Omnis Watchtower 的工具，旨在通过审查包安装来增强 AI 编码代理的安全性。该工具在安装前分析包名称，通过 OSV 数据检查恶意软件，并评估包的年龄和来源。它可以拒绝可疑的包，将新版本固定到较旧的稳定版本，或将包保留以供二次代理进一步审查。该系统在终端中提供了一个可视化的雷达界面来跟踪代理活动和包状态。
-
Prefilling-dLLM v2 通过学习路由提升长上下文扩散模型性能
研究人员开发了Prefilling-dLLM v2，一种提高扩散语言模型在长上下文处理效率的方法。该方法涉及对模型进行持续训练，以便在块之间路由信息，而不仅仅是在推理时进行。通过引入学习路由槽和混合注意力机制，Prefilling-dLLM v2 在长达128K的RULER任务上显著优于其他稀疏方法，比次优稀疏模型准确率高出7.4个百分点。与全密集注意力相比，该优化还将解码速度提高了172倍。
-
Claude Code：为安全高效的开发工作流配置权限
本指南解释了如何配置 Claude Code 的权限以简化开发工作流。它详细介绍了如何创建一个 settings.json 文件，该文件可自动允许用户编写的脚本（如 npm run 和 test），提示执行潜在风险操作（如 git push），并拒绝危险命令（如 git force push）。该配置通过使用 'allow'、'ask' 和 'deny' 规则来优先考虑安全性和效率，并为包括 npm、pnpm 和 yarn 在内的各种…
-
llama.cpp 添加 K2 Horizon dense 和 MoVA 模型支持
llama.cpp 项目发布了更新 b11454，引入了对 K2 Horizon dense 模型及其 MoVA 变体的支持。此次更新包括模型加载、超参数和张量处理的重大更改，以及计算图的调整。此外，该版本还解决了 Unicode 处理问题，特别是零宽度非连接符和连接符字符，这些字符之前导致 Windows 加载失败。更新还整合了对 YaRN betas 的支持，并强制执行推理和工具调用的响应模式。
-
开发者构建带分级审批队列的 AI 代理以管理风险
一位开发者使用 Claude Code 创建了一个系统来自动化代码实现，但增加了一个关键的安全功能：三级权限模型和审批队列。该系统通过仅要求对被视为破坏性或面向外部的操作进行人工审批，显著减少了 AI 代理的干扰。开发者为工具调用实现了一个确定性分类器，将其分为绿色（低风险、可逆）、黄色（中等风险，例如安装软件包）和红色（高风险、不可逆或面向公众），确保 AI 代理能够自主运行，而不会损害安全性或需要持续监督。
-
Fission AI 发布 OpenSpec 以简化 AI 代码开发
OpenSpec 是 Fission AI 推出的一个开源命令行工具，旨在简化 AI 编码代理的面向规范的开发 (Spec-Driven Development)。它允许开发人员和代理在编写任何代码之前，使用纯 Markdown 规范就代码更改达成一致，从而避免了传统框架的复杂性。该工具专注于以更改为中心的规范，仅详细说明代码库中受影响的部分，而无需全面的系统文档。OpenSpec 支持多种安装方法，并与包括 Claude Code、…
-
AI模型将内存卸载到CPU以提高性能
大型语言模型面临内存挑战，因为AI代理需要广泛的上下文，导致大型KV缓存给GPU内存带来压力。为解决此问题，一种新方法将内存管理从GPU转移到CPU，利用包括DDR内存和SSD在内的分层存储。该策略旨在通过卸载历史数据来释放GPU资源以生成新token，而像Intel的QAT这样的技术可能会加速压缩和解压缩以提高效率。
-
掌握实体解析以获得纯净的企业知识图谱
本文讨论了企业知识图谱中数据碎片化的关键挑战，在这些碎片化中，同一个现实世界实体可以在不同系统中以不同的名称表示。它强调了诸如实体解析、链接预测和图去重等确定性方法对于确保 AI 应用程序的数据完整性的必要性。作者提出了一种基于 TypeScript 的方法，并将其与概率性 LLM 进行对比，同时强调使用 Jaro-Winkler 等字符串相似度指标进行准确的实体匹配。
-
NInfer 分叉将 LLM 上下文提升至 555k，采用 4 位 KV 缓存
NInfer 项目的一个分叉已被开发出来，为大型语言模型的上下文长度和内存管理带来了显著的改进。该分叉采用自定义的 4 位 KV 缓存，可在不损失质量的情况下将 VRAM 使用量减少 45%，并通过 LongBench 和 AIME 等基准测试得到验证。它还将 Qwen 等模型的上下文窗口扩展到 555k token 以上，并预计在高 端 GPU 上可达 800 万 token。该项目增强了多级前缀重用，并实现了一个强大的主机 KV …
-
AI代码审查器错过关键错误，专注于小问题
一个AI工具被用来审查一个React代码库，但它专注于小问题而忽略了更严重的问题。该AI在识别风格不一致和轻微的代码异味方面很彻底，但未能检测到关键错误或架构缺陷。这突显了AI代码审查能力的当前局限性，工具可能无法有效地区分表面问题和实质性的代码质量问题。
-
RIBOSPAN模型推动长上下文RNA分析和设计
研究人员推出RIBOSPAN，这是一个拥有16.1亿参数的双向基础模型，专为长上下文RNA建模而设计。该模型原生支持长达10,240个核苷酸的上下文长度，能够对完整的RNA转录本进行高分辨率分析。RIBOSPAN在学习RNA表示方面展现了最先进的性能，并在预测生物学特性和建模突变适应性方面取得了顶级结果，尤其是在较长的RNA序列上。此外，基于RIBOSPAN骨干的扩散框架促进了mRNA的生成和重新设计，包括蛋白质保留的密码子优化。
-
阿里巴巴推出 Qwen3.8-Flash 模型，获广泛合作伙伴支持
阿里巴巴的 Qwen 推出了其 Qwen3.8-Flash 模型，可在 Qwen Cloud 上使用，API 使用价格具有竞争力。该模型也可通过 OpenRouter 访问，支持编码助手和代理工作流等各种应用。此外，Qwen3.8-Flash-Next 已获得 SGLang 和 vLLM 等关键合作伙伴的零日支持，并已在 NVIDIA 和 AMD 硬件上确认兼容。这种新架构旨在实现极致的成本效益，也可通过 Ollama 获取。
-
阿里巴巴 Qwen3.8-27B 采用混合注意力技术，实现高效长上下文处理
阿里巴巴通义实验室发布了 Qwen3.8-27B，这是一款拥有 277.8 亿参数的多模态模型，采用了新颖的混合注意力架构。该设计通过一种名为 Gated DeltaNet 的线性注意力机制，策略性地将每四层注意力中的三层替换掉，仅保留关键层使用全注意力。这种方法显著降低了内存压力和计算成本，使模型能够处理 262,144 个 token 的原生上下文窗口，并通过 YaRN 缩放可扩展至约一百万个 token，同时还能容纳在一块高端消…
-
阿里巴巴的 Qwen3.8-27B 集成视觉与语言能力，可与更大模型媲美
阿里巴巴的 Qwen 团队发布了 Qwen3.8-27B，这是一款集成了视觉和语言能力的新型开放权重模型。该模型拥有 262,144 个 token 的超长上下文窗口，可扩展至 100 万，并具备灵活的思维控制能力。基准测试表明，Qwen3.8-27B 在编码和智能体任务上超越了其前代模型，甚至可以与更大的闭源模型相媲美，同时在多模态推理方面也表现出色。
-
RoPE维度无法旋转，破坏了LLM中的上下文扩展
一项技术分析显示，在以2k token窗口训练的模型中，32个RoPE维度中的11个从未完成完整旋转，这导致在推断超出训练上下文长度时出现算术错误和无意义的输出。这个问题源于这些维度的波长比训练窗口长，导致它们产生未见的角度。文章讨论了三种方法——位置插值、NTK感知缩放和YaRN——作为潜在的解决方案，每种方法在局部分辨率和训练要求方面都有权衡。然而，这些方法主要解决了模型表示位置的能力，而不是其在扩展上下文中有效利用信息的能力。
-
阿里巴巴发布Qwen3.8开源模型，在排行榜上获得关注
阿里巴巴的Qwen发布了其Qwen3.8系列开源模型，包括Qwen3.8-27B和Qwen3.8-2.4T-A95B。Qwen3.8-27B模型拥有262K的原生上下文窗口，通过YaRN可扩展至1M token，并在Hugging Face等平台上获得了显著关注，其量化版本下载量达数百万次。此次发布使Qwen成为本地部署和代理开发的有力竞争选项，其中Qwen3.8-Max在前端代码排行榜上显著优于Claude Fable-5。
-
Muse Glimmer 30B 模型上下文扩展到 100 万个 token，检索完美。
一位用户已成功将 Muse Glimmer 30B 模型的上下文窗口扩展到一百万个 token，大大超过了其训练的 131K 上下文长度。这是使用 YaRN 上下文扩展方法实现的，并通过了“海中捞针”测试的验证，该测试证实即使在 832K token 时也能完美检索。该模型独特的架构，仅在滑动窗口层上进行位置编码，而在全局层上不进行位置编码，被认为是其在没有性能下降的情况下处理如此扩展上下文的关键。
-
新研究增强 Transformer 位置编码以更好地理解语言
两篇新研究论文探讨了 Transformer 模型位置编码的进展，旨在提高它们对 token 顺序和句法结构的理解。第一篇论文全面 survey 了现有方法，从绝对和相对嵌入到旋转位置嵌入 (RoPE) 及其长上下文扩展，强调了通过各种任务评估上下文扩展的重要性。第二篇论文引入了语法感知位置嵌入 (SiPE)，它将依赖解析的句法信息集成到位置嵌入中，在不增加推理成本的情况下，在 SyntaxGym 和 GLUE 等基准测试中显著提高了…