PulseAugur
中
实时 21:23:59
English(EN) Needle 2: 14MB agentic LLM for phones, wearables, smart home and robots.

Cactus 发布 14MB 代理 LLM Needle 2，面向边缘设备

作者 PulseAugur 编辑部 · [2 个来源] ·

Cactus 发布了 Needle 2，这是一款 14MB 的代理 LLM，专为手机、可穿戴设备和机器人等资源受限的设备而设计。该紧凑型模型可在 28MB RAM 下运行，速度惊人，在 Raspberry Pi 5 上运行速度为 500 tokens/秒，在智能手机上运行速度为数百 tokens/秒。Needle 2 采用简单注意力网络，比传统 Transformer 效率更高，并提供工具调用和结构化数据提取功能。 AI

影响 使低功耗、资源受限的设备上能够实现更强大的 AI 功能，将 AI 的应用范围扩展到传统计算平台之外。

排序理由 这是针对边缘设备的专业 LLM 的产品发布，而非大型实验室的前沿模型发布。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

Cactus 发布 14MB 代理 LLM Needle 2，面向边缘设备

报道来源 [2]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Henrie_the_dreamer ·

    Needle 2：适用于手机、可穿戴设备、智能家居和机器人的 14MB 代理 LLM。

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vkqy66/needle_2_14mb_agentic_llm_for_phones_wearables/"> <img alt="Needle 2: 14MB agentic LLM for phones, wearables, smart home and robots." src="https://preview.redd.it/j7au03xcykih1.png?width=140&amp;height…

  2. Mastodon — mastodon.social TIER_1 English(EN) · h4ckernews ·

    Needle2：适用于手机、可穿戴设备、智能家居和机器人的 14MB 代理式大语言模型

    Needle2: 14MB agentic LLM for phones, wearables, smart home and robots https:// cactuscompute.com/needle Comments: https:// news.ycombinator.com/item?id=4 9246804 # HackerNews # Needle2 # LLM # mobile # AI # agent # technology # smart # devices # robotics

    链接 cactuscompute.com/needle

相关实体

相关话题