Apple Foundation Model
PulseAugur coverage of Apple Foundation Model — every cluster mentioning Apple Foundation Model across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Needle 2: 14MB 代理 LLM 针对低功耗硬件上的设备端 AI · 跟踪 4 个来源
Cactus 发布了 Needle 2，这是一款紧凑型 14MB 代理 LLM，专为设备端 AI 应用而设计。该模型拥有 4500 万个参数，压缩至 2 位精度，可在智能手机、可穿戴设备和微控制器等低功耗硬件上高效运行，仅需 28MB RAM。Needle 2 在工具调用和结构化提取任务方面表现出竞争力，可与更大的模型相媲美，同时消耗的功耗和内存却显著减少。该模型在 Apache 2.0 许可下开源，权重可在 Hugging Face…
-
用户探索移动设备上的离线大模型应用
Reddit 的 r/LocalLLaMA 子版块上一位用户正在探索在移动设备（特别是 iPhone）上离线运行大语言模型（LLMs）的实际应用。他们使用 MLX 和 GGUF 等框架成功部署了从 0.5B 到 8B 参数的模型，并指出了移动硬件的局限性，但在网络搜索、摘要生成、本地数据分析和基本编码辅助等任务上取得了成功。该用户还强调了私密、离线的个人聊天应用的潜力，并认为与桌面应用相比，移动端大模型的用例是一个未被充分探索的领域。
-
Mac 悄然托管免费 LLM；Sigma 浏览器利用本地 AI
Sigma 浏览器通过使用名为 Eclipse 的本地 LLM 来提供其 AI 聊天功能，提供了一种注重隐私的方法，并可以选择连接到云模型以处理更复杂的任务。这种混合模式旨在平衡隐私和功能性，表明本地 LLM 可以满足许多日常 AI 需求。与此同时，Apple 已将其自家的 Foundation Model 悄然集成到 macOS 中，可通过 Apfel 等工具访问，该工具将 Mac 转变为免费的本地 AI 服务器，能够执行基本任务而无需依赖云。
-
用户寻求为本地 LLM 自动化 PII redaction
一位用户正在寻求方法，使用本地大型语言模型自动化敏感信息（如姓名）的 redaction。他们在使用 Osaurus 和直接模型提示等现有工具时遇到了困难，发现本地模型在可靠的英文姓名检测方面存在问题。用户在使用 Microsoft Presidio 时也遇到了安装问题，并正在寻找适合小型企业主的替代的、用户友好的解决方案。