Pallas
PulseAugur coverage of Pallas — every cluster mentioning Pallas across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
CyberTAN Technology携Marvell支持的平台进军AI数据中心交换机市场
CyberTAN Technology正推出新的AI数据中心交换机平台，采用1.6太比特设计。该项目得到了Marvell Technology的支持，并使用了3纳米Pallas架构。此举标志着CyberTAN进入竞争激烈的AI数据中心基础设施市场。
-
新的CutBCE方法优化推荐系统训练，减少内存使用并加速计算
研究人员开发了一种名为CutBCE的新颖方法，用于优化大型词汇推荐系统中的二元交叉熵（BCE）损失。该方法解决了在海量商品目录上训练模型时出现的内存限制和内存溢出错误。CutBCE利用JAX和Pallas通过硬件加速，实现精确的融合重构和自定义向量-雅可比积（Vector-Jacobian Product）的片上计算，以避免在大带宽内存（High Bandwidth Memory）中存储大型张量。在TPU v5e/v6e和8芯片TPU…
-
新研究探索大语言模型效率和推理能力的提升
多篇研究论文探讨了提高大语言模型（LLMs）效率和可靠性的方法。Hugging Face 的 LFM2.5-DSpark 通过使用推测性解码技术，展示了高达 3.2 倍的推理速度提升。OpWeave 和 LayerRoute 分别提出了用于跨异构硬件优化大语言模型服务和实现自适应层跳过的框架。其他研究则关注大语言模型的推理和校准，其中 ZebraArena 为工具增强型大语言模型提供了诊断环境，而 Efficiency Halluci…
-
“不高兴”的兔狲幼崽在日本动物园首次亮相
五只以其永恒的“不高兴”表情而闻名的幼年兔狲已在日本神户动物王国开始公开展示。这些幼崽于五月出生，现已超过一公斤，并正在过渡到固体食物。该动物园旨在展示这些被认为是现存最古老的猫科物种之一、原产于中亚的动物的健康状况。
-
JAXBench 推出以优化 Google TPU 上的 AI 内核
一个名为 JAXBench 的新基准测试套件已被开发出来，专门用于解决 Google Cloud TPU 上 AI 内核性能的优化问题。该套件包含 50 个 JAX 工作负载，这些工作负载源自 Llama-3.1、DeepSeek-V3 和 Gemini 3 Flash 等知名 AI 模型。初步评估表明，提供精选的 TPU 文档可显著提高 AI 生成内核的正确性，将其从 5.8% 提高到 37.3%，并实现了比 XLA 快 1.6 倍的速度。
-
Google 在 Ironwood TPU 上优化 Qwen 3.5-397B MoE，实现 4.7 倍加速
Google 优化了 Qwen 3.5-397B 混合专家（MoE）模型，使其能在其 Ironwood 张量处理单元（TPU）上运行。此优化利用 JAX 和 Pallas 实现，使 prefill 工作负载的速度提升了 4.7 倍。该开发解决了硬件分片限制的挑战，从而能更高效地部署大型模型。
-
Pallas DSL 助力 Google TPU 自定义内核优化
本指南介绍了 Pallas，一个基于 Python 的领域特定语言 (DSL)，用于编写可为 Google 的张量处理单元 (TPU) 编译和优化的自定义内核。Pallas 旨在为开发人员提供对硬件操作的细粒度控制，使他们能够获得超越标准库的性能提升。本文档是了解 Pallas 功能及其在 TPU 上优化机器学习工作负载方面作用的入门资源。