开发了一个新的工具,用于可视化和交互 GGUF 模型在 llama.cpp 上的 Jacobian Lens。该工具受 Anthropic 的研究和代码启发,允许在 Jacobian 空间内观察和操纵模型行为。它需要额外的 RAM,RAM 需求随模型大小而扩展,才能运行。 AI
影响 能够更深入地检查和操纵本地 LLM 的行为,可能有助于研究和开发。
排序理由 这是一个用于与现有模型交互的新软件工具,而不是前沿发布、研究论文或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →