PulseAugur
中
实时 17:31:42
English(EN) You can now run a 90M conversational LLM on the Sony PSP (hardware from 2004). Doesn't get more local than this.

9000万参数LLM在20年前的索尼PSP上运行，尽管速度很慢

作者 PulseAugur 编辑部 · [1 个来源] ·

一个拥有9000万参数的对话式大型语言模型已成功部署到2004年的索尼PlayStation Portable（PSP）上。虽然该模型能够生成文本，但其推理速度非常慢，平均每秒0.5-0.6个token，这意味着响应可能需要几分钟。尽管存在局限性，该模型仍能产生基本的创意内容并回答简单的事实性问题，但容易出现幻觉。 AI

影响 展示了在低功耗、旧设备上运行AI模型的潜力，尽管存在显著的性能限制。

排序理由 在过时的消费级硬件上运行小型LLM的演示。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

9000万参数LLM在20年前的索尼PSP上运行，尽管速度很慢

本文如何被排名

Signal score
13 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
在过时的消费级硬件上运行小型LLM的演示。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
product, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/liright ·

    现在可以在索尼PSP（2004年的硬件）上运行一个9000万参数的对话式LLM了。这已经够本地化了。

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1w78ztg/you_can_now_run_a_90m_conversational_llm_on_the/"> <img alt="You can now run a 90M conversational LLM on the Sony PSP (hardware from 2004). Doesn't get more local than this." src="https://preview.redd.…

相关实体

相关话题