FreeBASIC

GPT2-BASIC将定点Transformer AI带入DOS机器

一个名为GPT2-BASIC的项目已经发布，该项目在BASIC语言中为DOS类机器实现了一个定点Transformer和助手运行时。该系统旨在在受限硬件上运行语言模型推理和本地助手行为，利用量化权重、紧凑的本地存储和精选的语言包。该项目旨在证明，在远低于现代LLM的典型硬件要求的情况下，可以实现有用的AI功能，重点是定点推理、本地知识回忆和确定性验证。