Jacobian Space

新的 J-Space 协议内部评估人工智能模型安全性

研究人员推出了一种新的协议 JADR，用于评估人工智能模型的内部安全机制。该方法在生成响应之前分析模型的雅可比空间（J-space），比传统的 LLM-as-judge 方法提供了更直接的评估。JADR 使用 SafetyAUC 指标量化内部安全性，比较了不同场景下模型及其量化版本的性能，并已应用于 Qwen3 和 Gemma 2 等模型。