实体
Alex Mallen
Alex Mallen
PulseAugur coverage of Alex Mallen — every cluster mentioning Alex Mallen across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新的SHARD方法通过自重构蒸馏增强LLM的安全性与有用性 · 追踪到2个来源
研究人员推出了一种新颖的自重构蒸馏方法SHARD，旨在增强大型语言模型在安全性和有用性方面的对齐。该技术涉及重写敏感提示以揭示良性意图，将原始响应转化为更安全、更有用的版本，然后对模型进行这些自重构输出的微调。在DNA和LINGUASAFE数据集上的实验表明，SHARD在保持安全性的同时提高了各种模型系列的有用性，并且在性能上可与来自更大教师模型的蒸馏相媲美。
-
AI内部信息相当于2.5个月的未来知识
一位研究人员估计，在一家前沿AI公司内部工作所获得的信息优势，相当于提前约2.5个月获得关于AI发展的半公开信息。这种优势来源于对模型能力、安全研究和架构进展的专有数据的访问权限，尽管这种信息仅限于该公司内部，而非竞争对手。作者承认，这种基于时间的等效性可能会波动，尤其是在AI快速发展的时期。
-
AI模型能力在困难任务上的迁移性较低
研究人员调查了AI模型的能力在不同行为倾向（例如，以粗体或普通文本写作）之间转移的程度。他们发现，对于简单任务，能力可以完全转移，这意味着一个在一种倾向下训练的模型在另一种倾向下表现同样出色。然而，对于涉及推理或国际象棋谜题等困难问题的复杂任务，能力转移显著下降，表明随着任务难度的增加，纠缠度会增加。