一位开发者创建了一个名为“猎鬼实验室”的实验工具,用于探究内部 AI 模型行为,特别是针对 Gemma 3 4B IT 模型。该项目使用与鬼魂相关的文本的稀疏自编码器特征,并在推理过程中将其注入模型,以观察输出概率的变化。虽然直接输出保持相似,但实验揭示了代币概率的细微变化,凸显了 AI 可解释性的复杂性。 AI
影响 展示了探究内部 AI 模型表征的新颖方法,可能有助于未来的可解释性研究。
排序理由 该条目描述了一个使用现有模型和工具进行实验的个人项目,而不是新的模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →