实体
WMDP-Cyber
WMDP-Cyber
PulseAugur coverage of WMDP-Cyber — every cluster mentioning WMDP-Cyber across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
对非生成式AI模型进行生物安全风险审计
一篇新的arXiv论文研究了非生成式“System-1”模型在生物安全任务中的可靠性。该研究使用来自大规模杀伤性武器代理（WMDP）和LAB-Bench数据集的超过6000个多项选择题，审计了一个商业System-1模型。虽然准确性因任务而异，但当其不确定性字段被正确解释时，该模型表现出合理的校准和错误检测能力。然而，研究还发现，该模型对答案选项的顺序非常敏感，尤其是在网络安全相关的项目上，这表明跨不同选项顺序平均概率可以提高性能。
-
新的MAAT遗忘方法通过平衡基准解决“为什么”问题
研究人员推出了一种新颖的三阶段目标性机器学习遗忘框架MAAT，该框架专门解决了移除因果知识的难题。现有基准存在偏差，低估了“为什么”问题的代表性，而“为什么”问题对于评估因果和关系知识的移除至关重要。MAAT在LoRA适配器权重上运行，并采用梯度投影上升和SVD剪枝等技术来实现高遗忘率，同时保留其他知识。配套的5WBENCH基准包含“谁、什么、何时、何地、为什么”的平衡类别，首次量化了这些遗忘失败。