PrismML
PulseAugur coverage of PrismML — every cluster mentioning PrismML across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
Bonsai-Ternary-27B 模型可在 16GB GPU 上本地运行复杂的 AI 任务
一位用户分享了在 4060Ti 16GB GPU 上本地运行 Bonsai-Ternary-27B 模型以进行知识库管理和生产力任务的经验。该模型成功处理了复杂的任务，包括查询、信息综合以及与自定义项目管理系统交互，甚至处理了图像数据。虽然它展示了良好的推理和工具使用能力，但其性能受到比预期慢的预填充速度（600-700tk/s）和显著的 KV 缓存使用率的阻碍，即使经过量化，也将上下文窗口限制在 150k 个 token。
-
Apple Inc. 考虑使用PrismML为更大的iPhone端侧AI模型
据报道，Apple Inc. 正在考虑集成PrismML的技术，以增强其iPhone的端侧AI能力。此举可能使该公司能够直接在设备上部署更大的AI模型，例如一个270亿参数的模型。
-
苹果正与PrismML洽谈，以实现iPhone上的设备端AI
据报道，苹果公司正与专注于AI模型压缩的初创公司PrismML进行讨论。这些洽谈旨在使复杂的AI模型能够直接在iPhone等设备上运行。此次合作有望显著增强设备端的AI能力，减少对云处理的依赖。
-
Bonsai 27B 模型可在手机上运行；Google 的 Gemma 4 针对 Pixel 10 进行了优化
PrismML 发布了 Bonsai 27B，一个拥有 270 亿参数的模型，通过利用 1 位和三元权重，其大小可减小到 6GB 以下，从而可以在智能手机上运行。该模型支持多步推理和工具使用等复杂任务。另外，Google 宣布了 Gemma 4 E2B，该模型针对 Pixel 10 的 TPU 进行了优化，实现了离线深度对话和图像识别等设备端 AI 功能。AI 工程领域也正在走向成熟，编码代理和强大的评估框架等趋势正成为主流。
-
PrismML 发布 Bonsai 27B，使 Qwen3.6-27B 可在笔记本电脑和手机上运行
PrismML 发布了 Bonsai 27B，这是 Qwen3.6-27B 的高度压缩版本，有 1 位和三元变体。这些模型旨在在笔记本电脑和手机等消费级硬件上运行，其中 1 位版本仅需 3.9GB，三元版本需要 5.9GB。尽管经过了激进的压缩，三元模型仍保留了原始 FP16 模型约 94.6% 的性能，而 1 位版本则保留了 89.5%，使其适用于需要大上下文窗口和高效内存使用的应用程序。
-
PrismML 将 27B AI 模型压缩至可在智能手机上运行
PrismML 开发了 Bonsai 27B，一个拥有 270 亿参数的多模态 AI 模型，已压缩至约 3.9 GB，使其能够在手机上运行。通过 1 位量化等技术实现的显著压缩，使该模型能够保留约 90% 的原始基准性能，在数学方面表现尤为突出。虽然该模型可以安装在高端智能手机上，但其实际日常使用仍受内存缓存和持续性能等因素的影响。
-
Apple与PrismML洽谈以缩小AI模型规模
据报道，Apple Inc.正在与专注于AI模型优化的公司PrismML进行讨论。此次潜在合作旨在开发缩小大型AI模型的方法，这可能有助于在计算资源有限的设备上更有效地部署这些模型。此举符合Apple将先进AI功能直接集成到其硬件中的战略。
-
PrismML的Bonsai 27B模型可在iPhone上运行，效率有所提升
PrismML发布了Bonsai 27B，一个拥有270亿参数的AI模型，可以在iPhone 17 Pro等移动设备上运行，仅需3.9GB内存。该模型的一个1位变体因其效率而受到关注，但据报道与Qwen 3.627B基线相比性能有所下降。
-
Bonsai 27B：1位LLM在浏览器中运行，缩小至3.8GB
PrismML团队发布了Bonsai 27B，这是一款1位量化的LLM，可以在Web浏览器本地运行。该量化技术将模型大小从54GB减少到3.8GB，同时据称保留了其90%的原始智能。该模型利用自定义WebGPU内核进行高效执行，并在Hugging Face上提供了演示。
-
初创公司将 270 亿参数 AI 模型压缩至可在 iPhone 上运行
Khosla 投资的初创公司 PrismML 开发了一种方法，可以显著压缩大型 AI 模型，使其能够在 iPhone 等移动设备上运行。他们压缩后的阿里巴巴 Qwen 3.6 模型（拥有 270 亿参数）现在足够小（低于 4GB），可以在 iPhone 17 Pro 上运行，执行聊天、推理和编码等复杂任务。这项源自加州理工学院研究的突破旨在将 AI 处理从云端转移到本地设备，从而从根本上改变 AI 经济。
-
Apple探索iPhone 17 Pro的1位AI架构
据报道，Apple Inc.正在探索集成PrismML的1位架构技术。这种潜在的集成可能使iPhone 17 Pro能够在本地执行高级AI任务，能耗显著降低高达75%。此举标志着向更高效的设备端AI处理迈进。
-
苹果探索PrismML技术以在iPhone上实现设备端AI
据报道，苹果公司正与专注于缩小大型AI模型以实现设备端功能的初创公司PrismML进行讨论。目标是让iPhone能够在不依赖外部服务器的情况下运行更强大的AI模型。此举有望通过将先进的AI处理能力直接带给用户，从而显著增强移动设备的功能。
-
OpenAI 代理使用量激增；开源模型为本地推理而缩小 · 跟踪 4 个来源
OpenAI 的代理产品，包括 Codex 和 ChatGPT Work，使用量显著激增，对 GPT-5.6 Sol 的需求被描述为“疯狂”，并可能导致扩展问题。作为回应，JetBrains 已推荐 Codex 作为其首选代理，OpenAI 已发布了使用 GPT-5.6 构建的命令行评估新工具。同时，Harness 质量和可观察性的重要性日益增长，LangChain 和 Hermes Agent 中的新功能旨在提高代理性能并减少停顿。…
-
PrismML 发布适用于本地设备的微型 Bonsai Image 4B 模型
PrismML 发布了 Bonsai Image 4B，这是一对专为在本地设备上高效生成图像而设计的扩散 Transformer 模型。1比特Bonsai Image 4B 使用二值权重，而 3比特Bonsai Image 4B 使用三值权重。这些模型所需的内存极少，占地空间分别为 0.93 GB 和 1.21 GB，非常适合资源受限的环境。
-
PrismML 发布 Bonsai Image，支持 iPhone 本地 AI 艺术创作
PrismML 发布了 Bonsai Image，这是一款新的开源图像生成模型，可以在 iPhone 上本地运行。该模型最快可在 12 秒内生成图像，让用户无需连接互联网即可创作 AI 艺术。发布内容包含简单的安装说明和即时使用的指令。
-
Ollama v0.30.0、Qwen3.5 35B 和 WebGPU 上的 1 位 AI
Ollama 的 v0.30.0 预发布版将改进 llama.cpp 的互操作性。此外，新的 Qwen3.5 35B 模型已提供 GGUF 和 GPTQ 格式，并针对消费级 GPU 上的本地推理进行了优化。另外，PrismML 发布了 Bonsai Image 4B，这是一个 1 位文本到图像的扩散模型，可以直接在 WebGPU 的浏览器中运行，显著降低了计算需求。
-
PrismML 发布紧凑型 1 位/三进制图像扩散模型
PrismML 发布了新的文本到图像扩散转换器模型 Binary and Ternary Bonsai Image 4B。这些模型比以前的版本显著更小，大小约为 3GB，并且可以使用 WebGPU 在本地 Web 浏览器中运行。这些模型是在 Apache-2.0 许可下发布的。