一位 Mastodon 用户分享了在 RTX 3090 或 DGX 等硬件上本地运行“Frontiers 模型”并具有 100 万 token 上下文窗口的能力。这种能力被强调为“wahnsinnig”（疯狂/惊人）。该帖子还提到了 Frontiers in Psychology 和 MOD St Athan，尽管从这段摘录来看，它们与模型本地执行的具体联系尚不清楚。 AI
影响 使得在强大的消费级硬件上进行高级本地 AI 模型执行成为可能，有可能使大型上下文窗口的访问民主化。
排序理由 用户讨论本地运行模型，而非来自前沿实验室的直接发布。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
