Modern Standard Arabic
PulseAugur coverage of Modern Standard Arabic — every cluster mentioning Modern Standard Arabic across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
MiniMax AI 和 Fireworks AI 开源推理内核
MiniMax AI 和 Fireworks AI 已联合发布旨在加速推理速度的开源内核工作。此次合作的重点是使底层计算组件可访问，并强调不仅模型权重，内核代码也应开源。发布的存储库包括 MiniMax MSA 和 Fireworks 内核，为处理大型模型的开发人员提供了工具。
-
Minimax M3 视觉和阿拉伯语支持已合并到 llama.cpp
Minimax M3 大型语言模型现已将视觉支持集成到 llama.cpp 库中。此合并由一个拉取请求发起，还将现代标准阿拉伯语 (MSA) 的支持纳入了 llama.cpp 框架。这些更新增强了本地 LLM 部署的功能。
-
SemiAnalysis：黄仁勋的委员会方法阻碍了美国开源AI的进步
SemiAnalysis 批评黄仁勋的开源AI委员会式训练方法，认为它扼杀了创新并导致群体思维。分析表明，与中国的模式类似，实验室之间的独立竞争能促进更大的进步。具体来说，Kimi K3 据称优于 NVIDIA 的 Nemotron 3 Ultra，而 Mistral AI 的参与据称阻碍了 Nemotron 的预训练。作者主张成立独立的竞争委员会，以推动数据、训练和评估方面的进步。
-
New CTC method improves diacritic restoration for Arabic speech transcripts
研究人员开发了一种高效的、非自回归的方法，使用连接主义时间分类（CTC）来恢复阿拉伯语音文本中的音标。该方法通过从无音标文本创建字符级音标格，在解码过程中加入硬约束，将假设限制在有效的音标形式内。在古典阿拉伯语和现代标准阿拉伯语数据集（特别是ArVoice和ClArTTS）上的评估表明，与更复杂的多模态基线相比，音标错误率显著降低，突出了性能和效率的提升。
-
阿拉伯语大型语言模型可通过神经元分析引导至方言
研究人员探索了在无需微调的情况下，将阿拉伯语大型语言模型（LLMs）引导至生成特定方言的方法。该研究识别出编码方言特定特征的稀疏神经元群体，并证明操纵这些神经元可以影响模型输出。此外，还应用了向量引导方法，在推理过程中提取和注入方言特定激活方向，为基于可解释性的方言生成控制提供了一个框架。
-
阿拉伯语大型语言模型无需重新训练即可被引导使用特定方言
研究人员开发了无需额外训练即可控制阿拉伯语语言模型方言输出的方法。通过分析神经元级别的表示，他们识别出编码方言特征的特定神经元群体，从而能够进行操作以引导模型的输出。此外，还使用了一种向量引导方法，在推理过程中提取和注入特定于方言的激活方向，为管理大型语言模型中的方言知识提供了一种原则性的方法。
-
OCI 的 AI 扩展挑战和降本工具出现
Oracle Cloud Infrastructure (OCI) 在扩展 AI 工作负载方面面临挑战，其现代标准阿拉伯语 (MSA) 产品提供的局限性凸显了这一点。虽然 AI 代理正在导致数据库蔓延，但它们也被探索为潜在的解决方案。文章涉及各种与 AI 相关的主题，包括 AI 代理的安全性、AI 在网络安全领域的持续斗争，以及开发用于降低 AI 运营成本的工具，例如 Netflix 开源的 Project Headroom。
-
新研究探索用于大型语言模型的混合和稀疏注意力机制
研究人员正在探索优化大型语言模型中注意力机制的新方法，特别是用于处理长上下文。例如，HydraHead架构沿头轴混合了全注意力（FA）和线性注意力（LA），识别关键的FA头并协调分布差异。另外，StreamKL提供了一种快速且内存高效的方法来计算注意力蒸馏的Kullback-Leibler散度，减少了HBM占用空间，并支持在单个GPU上进行长上下文蒸馏。其他研究包括基于域分解的分层注意力和距离自适应表示，后者为远距离标记分配较低的维度…
-
MiniMax AI 庆祝社区对 M3 开源权重的贡献
MiniMax AI 正在庆祝开源社区对其 M3 开源权重所做的贡献。mlx-vlm 项目已集成对 MiniMax M3 的支持，包括对现代标准阿拉伯语的实现。此集成在 M3 Ultra 512GB 系统上进行了测试，实现了每秒 24 个 token 的处理速度，峰值内存使用量约为 240GB。
-
MiniMax AI发布开源M3模型，支持100万上下文
MiniMax AI发布了其新的开源模型MiniMax M3，该模型具备先进的编码和智能体能力。该模型支持原生图像和视频输入，可以与计算机交互，并拥有100万token的上下文窗口。M3的一个关键创新是其MSA稀疏注意力架构，旨在提高性能。
-
MiniMax AI发布开源M3模型，支持100万上下文
MiniMax AI发布了其新的开源模型MiniMax M3，该模型拥有100万token的上下文窗口和先进的功能。该模型采用了名为MSA的新型稀疏注意力架构，其中包括专用的预填充和解码内核。它支持NVIDIA Hopper和Blackwell架构上的BF16和MXFP8格式，通过前缀缓存和分块预填充实现了长上下文的高效服务。
-
Fireworks AI 推出具有多模态功能的 MiniMax M3 推理服务
Fireworks AI 推出了 MiniMax M3 模型的推理基础设施服务，提供 Day-0 访问和有竞争力的价格。这项新服务拥有多模态功能，包括幻灯片处理和生成，并支持 512K 上下文窗口以及原生图像和视频输入。它还采用了 MSA 稀疏注意力机制，可显著提高预填充和解码速度，使其在人工智能分析指数上成为顶级的开源模型之一。
-
MiniMax AI 开源 MSA 内核库，M3 权重将于周五发布
MiniMax AI 已宣布开源其高性能 MSA 内核库。该公司还表示，M3 权重定于本周五发布。此次发布包含指向该库 GitHub 存储库和相关论文的链接。
-
MiniMax M3 发布，支持 1M 词元上下文和 MSA 架构
MiniMax 发布了其 M3 模型，该模型采用了新颖的稀疏注意力（MSA）架构，支持 100 万词元的上下文窗口和原生多模态。这种新架构显著降低了长上下文的计算成本，使得 M3 比前几代模型速度更快。该模型在编码和智能体任务方面也表现出色，在 SWE-Bench Pro 和 Terminal-Bench 等基准测试中超越了多个领先模型。
-
新数据集对阿拉伯语对话中的LLM进行文化推理基准测试
研究人员开发了一个名为ArabCulture-Dialogue的新数据集，以解决缺乏丰富的文化对话数据来评估阿拉伯语大型语言模型（LLM）的问题。该数据集涵盖了13个阿拉伯语国家，包括现代标准阿拉伯语（MSA）和不同日常生活主题的当地方言。使用该数据集进行的实验显示，在文化推理、翻译和生成等任务中，LLM在方言阿拉伯语上的表现明显不如MSA。
-
LLMs can now generate Arabic poetry with specific style and rhyme controls
研究人员开发了一种新的方法，用于指导阿拉伯语及其方言的诗歌生成。他们创建了一个包含现代标准阿拉伯语和各种方言的基于指令的诗歌示例的大型数据集。在此数据集上微调大型语言模型，可以实现可控的诗歌创作，包括根据特定标准（如风格和韵律）来撰写、修改和续写诗歌。
-
新的MSA算法利用模型历史高效地从LLM中遗忘数据
研究人员推出了一种名为模型状态算术（MSA）的新型算法，旨在高效地从大型语言模型中移除特定数据点的影响。与计算上不可行的完全重新训练不同，MSA利用历史模型检查点来抵消不需要的数据的影响。实验表明，MSA在各种基准测试和模型上表现具有竞争力，并且通常优于现有的数据遗忘方法。