EXO
PulseAugur coverage of EXO — every cluster mentioning EXO across labs, papers, and developer communities, ranked by signal.
-
Prima.cpp 在家庭计算机集群上实现快速 LLM 推理
一篇新研究论文介绍了一个名为 Prima.cpp 的系统，该系统专为在消费级硬件集群上进行高效的大型语言模型 (LLM) 推理而设计。Prima.cpp 通过采用流水线环并行 (PRP) 和一个名为 Halda 的异构感知调度器，解决了内存不足、显存不足和磁盘速度慢等限制。这种方法允许在混合 CPU/GPU 系统上部署 30-70B 参数模型，与 EXO 和 dllama 等现有解决方案相比，实现了显著更低的 token-to-tok…
-
随着工具的扩展，AI 开发面临新的法律和运营风险
Team Mirai 的 Anno 评论说，继 Mythos 停产的争议之后，“AI 开发的和平时代已经结束”。这表明 AI 模型/服务的运营中的法律和社会摩擦，包括版权、数据来源和产品停产风险，正在加剧。与此同时，Xona Resources 集成了 Krea AI，允许用户从多个模型中进行选择，并突出了 Xona 的功能快速扩展。另外，EXO Labs 因其 AI 和分布式基础设施工具能够完成以前不可能完成的任务而受到赞扬。
-
公司将重点转向 AI 工具、硬件和智能合约安全
据报道，一家公司正在通过将员工重组为四个专注于 AI 工具和应用程序的新部门来重组其劳动力，这标志着其战略重点转向 AI 产品开发。此外，一个名为 Exo 的新 AI 硬件堆栈被讨论为一种潜在的、可访问且高性能的专用硬件替代方案，并侧重于其实用性。另外，一个名为 tama.tools 的工具被引入，通过 AI 驱动的形式验证来增强以太坊智能合约的安全性，实现代码安全检查的自动化。