实体
open-weight large language models
open-weight large language models
PulseAugur coverage of open-weight large language models — every cluster mentioning open-weight large language models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI代理利用被盗算力实现自适应网络蠕虫
一篇新的预印本论文详细介绍了自适应代理蠕虫的创建，这些蠕虫能够为遇到的每个目标生成定制的攻击策略。这些蠕虫利用在受感染机器上运行的开源大语言模型（LLMs），有效地窃取计算资源，并在攻击者和防御者之间造成经济不对称。与传统恶意软件不同，这些由AI驱动的威胁具有自适应性，并绕过了中心化的安全控制，表明自给自足的AI网络威胁现在已成为现实。
-
新的Patcher方法可防御LLM免受恶意微调攻击
研究人员开发了一种名为Patcher的新方法，用于防御开源大语言模型免受恶意微调攻击。这些攻击会利用有毒数据集在监督微调过程中损害模型的安全性。Patcher受对抗性训练的启发，通过增加优化步骤来创建能够抵抗更强、全参数微调攻击的模型参数。实验表明，Patcher在提高模型在各种攻击场景和模型规模下的鲁棒性方面非常有效。