一个名为GPT2-BASIC的项目已经发布,该项目在BASIC语言中为DOS类机器实现了一个定点Transformer和助手运行时。该系统旨在在受限硬件上运行语言模型推理和本地助手行为,利用量化权重、紧凑的本地存储和精选的语言包。该项目旨在证明,在远低于现代LLM的典型硬件要求的情况下,可以实现有用的AI功能,重点是定点推理、本地知识回忆和确定性验证。 AI
影响 展示了在极其受限的硬件上运行AI模型的潜力,可能为复古计算或嵌入式系统带来新的应用。
排序理由 开源、专业AI模型实现的发布。[lever_c_降级自研究:ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →