一个后续项目将 GPT-2 模型中的词汇量可视化为一棵双曲树，包含 32,070 个标记，位于一个可导航的庞加莱圆盘内。这种交互式可视化可以在移动设备上运行，使用 GPT-2-small 的标记嵌入，并在双曲空间中自然地映射词语相似性的树状结构。用户可以通过旋转、缩放和点击标记来重新定位视图来探索数据，揭示诸如星期几或“Trump”和“Ivanka”等特定联系。整个可视化包含在一个单一的客户端 HTML 文件中。 AI
影响 提供了一种探索和理解语言模型内部结构的新颖方式。
排序理由 该项目描述了一个现有模型内部结构的视觉化，属于研究或其他非核心人工智能发布类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
