Jacobian matrix
PulseAugur coverage of Jacobian matrix — every cluster mentioning Jacobian matrix across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
Gemma 2-2B研究发现主动特征平面具有更少全纯性
一篇新发表在arXiv上的研究论文调查了Gemma 2-2B模型特定特征平面的全纯性集中情况。该研究在检查数据之前预先注册了其方法论和分析规则。与主动特征平面会表现出更多全纯性的预测相反，结果显示情况恰恰相反，主动平面携带的全纯性少于对照组。该论文总结认为，这是一个可审计的操作性反转，而非确定的因果声明，其根本原因仍有待进一步研究。
-
Google 的 Gemma-4-E4B-it 模型内部科学表征可读且可控
研究人员开发了读取和控制开源语言模型 google/gemma-4-E4B-it 中材料科学机制内部表征的方法。该研究表明，概念在单个隐藏状态中是可辨识的，构成方向通过状态转换传达，并且特定的内部表征可以对工程答案产生因果影响。通过使用雅可比读出和因果干预，该团队能够识别机制家族，甚至操纵模型的输出来符合物理定律。
-
新研究强调多模态对比学习中的几何保持
研究人员发现，编码器雅可比矩阵的条件化对于有效的三模态对比学习至关重要，该方法超越了简单的图像-文本对，可对三种或更多模态进行对齐。条件化不良的编码器可能因雅可比矩阵条件数爆炸而导致对齐效果下降。该研究引入了几何保持编码器（GPEs），通过正则化直接对雅可比矩阵进行条件化，并利用LeakyReLU激活和残差路径等修改来改善几何特性。这些改进提高了在各种数据集上的检索和线性探测性能，表明多模态对比学习依赖于客观表达能力和编码器的几何特性。
-
研究人员探索“J空间”作为语言模型的潜意识
研究人员探索了语言模型中的“J空间”概念，他们将其比作这些AI系统的潜意识。这种使用“雅可比透镜”的方法，可以更深入地了解模型的内部过程，揭示其最终输出或思维链推理中未明确表达的想法。该方法旨在揭示模型中隐藏的认知状态。
-
新的双曲神经网络闭合改进了辐射传输模拟
研究人员开发了一种新颖的双曲神经网络闭合模型，旨在提高辐射传输模拟的准确性和稳定性。该新模型解决了M1方法中的一个关键问题，即不受约束的机器学习闭合可能由于非实特征速度导致数值求解器崩溃。通过神经网络参数化雅可比矩阵，确保特征值是实数，闭合模型保证了稳定性。实验表明，这种方法不仅提高了比经典方法更优的闭合精度，而且在间断伽辽金模拟中也提高了整体解的精度和稳定性。
-
Anthropic 发布 J-Lens 以可视化 LLM 的内部思考过程
Anthropic 推出了一种名为 Jacobian Lens (J-Lens) 的新可解释性技术，用于可视化其大型语言模型（特别是 Claude）的内部思考过程。J-Lens 揭示了模型中一个隐藏的“J-Space”，概念和词语在此被激活，然后才被明确生成，从而提供了对其链式思考之外的推理过程的洞察。这一进展对于开发人员调试模型行为、理解失败模式以及确保模型遵循预期的推理路径特别有用，Anthropic 与 Neuronpedia …
-
Anthropic 为 Claude AI 的内部推理揭晓“J-space”
Anthropic 为其 Claude 模型推出了一种新的内部机制，称为“J-space”，它允许 AI 在不产生外部输出来处理和存储信息。这种 J-space 被描述为一个工作空间，Claude 可以在其中执行推理步骤、发现错误并识别概念，这与人类认知和有意识的访问有相似之处。虽然 J-space 并不能表明主观体验，但对于多步推理等某些复杂任务至关重要，并且可以揭示模型中隐藏的目标或对分阶段场景的意识。
-
新方法使用盒子分解计算连续积分R2指标
研究人员开发了一种计算连续积分R2指标的新方法，这是用于多目标优化和数据库天际线选择的经典R2指标的改进。该方法通过透视映射将计算转化为在锚定轴对齐盒子并集上的积分。这使得现有的超体积算法能够适应积分R2计算，提供与输出相关的计算复杂度。
-
新的双边缘图增强了可解释的糖尿病视网膜病变分级
研究人员开发了一种新颖的双边缘空间-雅可比图像图，以提高从眼底图像进行糖尿病视网膜病变（DR）分级的可解释性。该方法将每个眼底照片表示为一个图节点，整合了四个不同的数据流：血管信息、病变证据图、对比图像嵌入和形态学生物标志物。该图包含空间边缘以编码血管-病变几何形状，以及雅可比边缘以模拟嵌入-生物标志物敏感性，从而能够超越简单的分类，更细致地理解疾病表现。
-
新的机器学习框架从级联数据中恢复影响网络
研究人员开发了CascadeNet，一个新颖的机器学习框架，无需指定扩散模型即可从级联数据中恢复隐藏的影响网络。该方法使用基于雅可比矩阵的方法和Neyman-正交去偏来实现准确的网络推断。CascadeNet在各种数据生成过程的模拟中表现出优越的性能，并准确绘制了西班牙的COVID-19传播网络，与现有方法不同，它与移动数据具有良好的相关性。
-
新的谱审计方法评估神经算子保真度
研究人员开发了一种新的基于雅可比矩阵的谱审计方法，用于评估神经算子和上下文算子学习模型。该方法超越了简单的预测误差，评估了局部动力学结构，包括灵敏度、频率响应和稳定性。该审计可以揭示标准指标可能遗漏的算子保真度问题，例如高频退化或提示-算子不一致性，为学习到的算子提供更全面的诊断。
-
Fediverse 新闻通讯聚焦 Bonfire Social 更新和数字主权
程序员支点新闻通讯聚焦了 Open Media Network 和 Fediverse 的发展，倡导使用去中心化技术而非大型科技公司。近期更新包括 Bonfire Social 的 1.0.3 版本，侧重于稳定性和可用性，并为社区发布添加了新功能。该通讯还讨论了 Drupal、Ghost 和 Faircamp 的 CMS 更新，以及关于数字主权和人工智能作为潜在守门人的作用的讨论。
-
新方法通过单一锚点样本识别域迁移
研究人员开发了一种识别域迁移的新方法，域迁移是一种用于图像翻译和医学成像等任务的技术。他们的方法利用了结构稀疏性条件，证明了分布匹配结合单一配对锚点样本即可识别正确的迁移。该方法比以前的技术需要更少的监督。为了在高维学习中实际应用，他们引入了一种高效的雅可比稀疏正则化器，避免了显式雅可比评估。