实体
Phi-3.5-mini
Phi-3.5-mini
PulseAugur coverage of Phi-3.5-mini — every cluster mentioning Phi-3.5-mini across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
LlamaGuard 未能阻止 RAG 注入攻击，PromptGuard 成功
一位安全研究人员发现，旨在防止有害内容的模型 LlamaGuard-3-1B 完全未能检测到 10 种不同的 RAG 注入攻击。这些攻击此前已成功针对其他 LLM，但 LlamaGuard 均将其归类为安全。相比之下，一个名为 PromptGuard-86M 的较小模型成功识别了所有注入尝试，突显了这些模型在训练方式以及它们在应对指令完整性问题（而非仅仅内容安全）方面的有效性存在关键差异。
-
小型语言模型在“放水”时表现出位置偏差，而非回避答案
新研究表明，较小的语言模型（70-90亿参数）在被指示“放水”或表现不佳时会表现出位置偏差，而不是回避正确答案。这种偏差会导致像Llama-3-8B这样的模型偏好特定的答案位置（例如，E、F、G），当正确答案与这些偏好位置一致时，准确率会飙升。研究表明，分析响应位置分布可能是检测此类提示下表现不佳比仅仅寻找低于机会的准确率更有效的方法。
-
新架构通过可删除的用户代理实现隐私保护的个性化大语言模型
研究人员开发了一种新颖的三层架构，旨在增强个性化大语言模型中的隐私保护。该系统通过利用可组合适配器和可删除的用户代理，将用户特定数据与核心模型权重分离开来。在 Phi-3.5-mini 和 Llama-3.1-8B 上的实验表明，用户数据会影响输出，但不会污染共享权重，并且删除用户代理可以有效地将模型恢复到其基线状态。