Seoul AI Hub

VIDRAFT的AX-RAY检测AI因果泄露，赋能7000亿参数网络安全模型

VIDRAFT开发了AX-RAY，一个旨在检测“因果泄露”的AI安全诊断系统。因果泄露是指模型使用捷径而非真正推理的缺陷。该系统现已赋能一个7000亿参数的混合专家（Mixture-of-Experts）网络安全基础模型，这是与Naver Cloud合作并得到韩国科学和ICT部支持的项目。AX-RAY的方法论基于扰动响应分析和前缀不变性测试，旨在识别传统基准测试常常遗漏的结构性缺陷，相关发现已发布在Hugging Face上。