Phi-3.5
PulseAugur coverage of Phi-3.5 — every cluster mentioning Phi-3.5 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI模型鲁棒性分析揭示层级分离
一篇新的研究论文分析了语言模型的扰动鲁棒性，揭示了敏感性、因果关系和修复能力在模型层级之间并不一致。研究发现在像Phi-3.5和Gemma-2-9B这样的模型中存在两种不同的传播模式：尖峰-抑制模式，以及Llama-3、Mistral和Qwen2.5-7B中的后期累积模式。研究表明，放置在涉及因果关系早期层级的适配器会干扰下游计算，并为预筛选和适配器放置提供了实用指导。
-
新研究通过先进的检测和防御策略应对LLM越狱 · 跟踪7个来源
研究人员正在开发先进的方法来检测和防止针对大型语言和视觉语言模型的越狱攻击。SALLIE等新技术通过分析模型内部状态提供免生成、跨模态检测，而NeuroBreak则专注于理解神经元级别的安全机制。其他方法包括使用心理学原理自动生成多轮攻击数据集，以及利用已知攻击示例的检索增强防御（RAD）等自适应防御。新颖的策略还探讨了诱饵图像如何放大现有防御能力，以及迭代上下文优化如何增强语义偏移越狱。
-
新的PRISM方法可检测LLM行动中超越文本安全的物理危险
研究人员开发了一种名为PRISM的新方法，用于检测大型语言模型（LLM）在控制具身智能体时可能带来的物理危险。与传统的基于文本的安全检查不同，PRISM分析LLM的内部状态，以识别将指令与物理世界相结合时产生的风险。这种方法表明，在LLM的表示中，物理危险信号可以与内容危险信号分离。PRISM在旨在测试物理安全性的基准测试中取得了高准确率，在识别潜在有害行为方面显著优于标准的LLM裁判。
-
iOS 应用 GenBench 可在设备上对 GGUF 模型进行基准测试
一款名为 GenBench 的新的免费 iOS 应用程序已发布，允许用户直接在 iPhone 和 iPad 上下载、运行和基准测试 GGUF 模型。该应用程序利用 llama.cpp 和 Metal 进行离线运行，并测量每秒令牌数、首个令牌延迟和峰值内存使用量等性能指标。用户还可以提交分数到全球排行榜，以比较不同设备和模型（包括文本和视觉模型）的性能。
-
KV 缓存驱逐保护比评分更重要
研究人员开发了一种管理大型语言模型中 KV 缓存驱逐的新方法，发现结构性保护比评分算法更关键。他们对 Transformer 模型的研究表明，如果没有保护，现有的驱逐策略会显著退化。通过为结构性保护保留一小部分缓存，模型即使在缓存大小有限的情况下，也能恢复相当数量的原始质量。