Cactus
PulseAugur coverage of Cactus — every cluster mentioning Cactus across labs, papers, and developer communities, ranked by signal.
- 2025-07-10 product_launch Cactus launched an open-source AI engine for mobile devices and wearables. 来源
2 天有情绪数据
-
新的CACTUS方法在去中心化联邦学习中植入语义后门
研究人员开发了CACTUS，一种在去中心化联邦学习系统中植入语义后门的新颖方法。该技术将标签一致的语义对转换为目标导向的表示偏移，隔离触发器效应并将其耦合到样本中。CACTUS在Speech Commands数据集上展示了51.2%的平均攻击成功率，并在各种聚合规则下，在四种测试模态中的三种上实现了最高的平均ASR，表明其在通过重复的去中心化聚合传播后门的有效性。
-
Needle 2: 14MB 代理 LLM 针对低功耗硬件上的设备端 AI · 跟踪 4 个来源
Cactus 发布了 Needle 2，这是一款紧凑型 14MB 代理 LLM，专为设备端 AI 应用而设计。该模型拥有 4500 万个参数，压缩至 2 位精度，可在智能手机、可穿戴设备和微控制器等低功耗硬件上高效运行，仅需 28MB RAM。Needle 2 在工具调用和结构化提取任务方面表现出竞争力，可与更大的模型相媲美，同时消耗的功耗和内存却显著减少。该模型在 Apache 2.0 许可下开源，权重可在 Hugging Face…
-
Cactus AI 教会 Gemma 4 自我评估置信度，用于混合模型
Cactus 开发了一个混合 AI 模型 Gemma-4-E2B，它可以确定自身回答的置信度水平。这使得查询能够被高效路由，对高置信度的回答使用设备端模型，而将低置信度的查询升级到更大的云模型。通过仅将 15-35% 的查询分流到 Gemini 3.1 Flash-Lite 等模型，Gemma-4-E2B 实现了可比的基准性能。该系统使用一种新颖的探针层，分析中间模型层以预测错误回答的可能性，其表现优于令牌熵等传统方法。
-
新的2600万参数模型可本地处理工具调用
一款名为Cactus Needle、拥有2600万参数的新模型已被开发出来，可以在本地处理工具调用功能，而无需依赖基于云的尖端模型。这个小型模型压缩后约为16.2MB，可以高效地处理自然语言请求、选择合适的工具并提取结构化输出。其设计允许在本地执行，即使在仅CPU的系统上也能运行，从而可能降低不需要复杂推理的代理操作的延迟和成本。
-
Cactus 发布面向移动设备的开源 AI 引擎
Cactus 发布了一款专为移动设备和可穿戴设备设计的开源 AI 引擎，优先考虑低延迟和减少 RAM 使用。该引擎支持多模态功能，包括语音、视觉和语言模型，并可选择回退到云端模型。它具有用于提高能效的 NPU 加速功能，并提供 OpenAI 兼容的 API 以集成到各种应用程序中。