MOD St Athan
PulseAugur coverage of MOD St Athan — every cluster mentioning MOD St Athan across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的大语言模型基准测试显示 Qwen3.8 Flash Next 在 DGX Sparks 上领先
一位 r/LocalLLaMA 上的用户分享了包括 DeepSeek V4 Flash、Qwen3.8 Flash Next、Qwen3.8-27B 和 Qwen3.6-35B-A3B 在内的几款新大语言模型的性能基准测试。测试在 NVIDIA DGX Spark 硬件上进行,重点关注运行时间、服务上下文长度和每秒交付的 token 数等指标。Qwen3.8 Flash Next 模型,尤其是在“中等”设置下,取得了最高的 22/24…
-
Qwen3.8-Flash-Next 在双节点 DGX Spark 集群上实现每秒 181 个 token
Reddit 的 r/LocalLLaMA 子版块的一位用户分享了他们使用 Qwen3.8-Flash-Next 模型在双节点 NVIDIA DGX Spark 集群上实现了每秒 181 个 token 的高推理速度。这一令人印象深刻的性能是通过优化模型配置实现的,包括具有 FP8 n-gram 表的 4 位路由专家量化和混合注意力架构。用户还详细介绍了管理大型 512K 上下文窗口的技术,例如将模型部分卸载到 NVMe 存储,以及微…
-
NVIDIA DGX基础设施需要频繁更新以适应新AI模型
用户表示需要每 24 天更新一次 NVIDIA DGX 基础设施,以适应新模型的发布。这暗示着AI模型开发中的快速迭代周期需要相应的 infrastructure 升级来维持运营效率。
-
Frontiers 模型在消费级硬件上以 100 万 token 上下文本地运行
一位 Mastodon 用户分享了在 RTX 3090 或 DGX 等硬件上本地运行“Frontiers 模型”并具有 100 万 token 上下文窗口的能力。这种能力被强调为“wahnsinnig”(疯狂/惊人)。该帖子还提到了 Frontiers in Psychology 和 MOD St Athan,尽管从这段摘录来看,它们与模型本地执行的具体联系尚不清楚。
-
DeepSeek 每天花费 1.14 美元;双 DGX 需 24 年才能收回成本
一位用户分享了使用 DeepSeek 进行 OpenCode Go 项目的运营成本分析。研究结果表明,每位用户每天使用 DeepSeek 的成本为 1.14 美元。此外,分析预测,使用两台 DGX 系统的配置需要大约 24 年才能实现投资回报。
-
用于 DGX/Spark 上的 NixOS 的 GitHub 仓库引发讽刺评论
一条幽默的社交媒体帖子嘲笑了新的 GitHub 仓库,该仓库旨在将 NixOS 与 DGX 和 Spark 集成用于 AI 研究。作者讽刺地暗示这增加了不必要的复杂性,并开玩笑说自动化工作流程会导致自我毁灭。
-
NixOS-DGX-Spark 项目在 DGX Spark 系统上启用 Nix 和 NixOS
一个名为 NixOS-DGX-Spark 的项目已被开发出来,旨在在 NVIDIA 的 DGX Spark 系统上启用 Nix 和 NixOS 的使用。该项目提供了在 DGX OS 上运行 Nix 的 playbook,或者允许在 DGX Spark 硬件上进行完整的 NixOS 安装。该项目旨在为这些专业的 AI 计算平台提供全面的 Nix 体验。
-
AI 模型超越单设备,引发关于比特精度的争论
关于 AI 模型开发的讨论强调了日益增长的硬件需求以及 LLM 中降低精度的可能性。一位用户指出,最新的模型,接近 30 亿参数,超出了单个设备的容量,导致暂停购买高端 NVIDIA DGX 系统。同时,另一位用户质疑像 Kimi k3 这样的 1 比特 LLM 的实用性,并将其与标准的 8 或 16 比特模型进行对比,认为它在数学上是不可靠的。
-
NVIDIA GB10/DGX Spark 用户讨论最佳 AI 模型性能
Reddit r/LocalLLaMA 社区的一位用户正在寻求关于在单台配备 Apache Spark 的 NVIDIA GB10/DGX Grace Blackwell Superchip 上运行性能最佳且最稳定的 AI 模型的推荐。讨论围绕 Qwen 3.6 27b、DeepSeek V4 Flash 和 Laguna S 2.1 等模型展开,用户权衡速度、结果质量和优化潜力等因素。
-
DeepSeek V4-Flash 在双DGX Sparks上达到40 Ttk/s
一位用户分享了在双DGX Sparks硬件上运行DeepSeek V4-Flash模型的配置和基准测试。该设置在FP8精度下实现了约每秒40万亿token(tera-tokens per second)的吞吐量,并在处理具有256k上下文窗口的多个请求时,聚合吞吐量可达每秒350万亿token。此性能与Nvidia RTX Pro 6000和Mac M2 Ultra系统进行了比较,突显了双DGX设置在大模型推理方面的效率。