One Million Tokens

互动网站可视化大语言模型100万token上下文窗口的增长

一个新推出的互动网站可视化了大语言模型上下文窗口的增长，展示了100万token的容量如何与单词、页面和对话时间等熟悉单位进行比较。该网站追溯了从GPT-3等早期模型（2048 token）到当前能力的演变，强调了Gemini 1.5 Pro的100万token支持是一个重要的产品化里程碑。虽然大型上下文窗口使开发人员能够输入大量的代码或文档，但它们并不能完全取代检索增强生成，也不能保证完美的记忆或推理能力。