Sear
PulseAugur coverage of Sear — every cluster mentioning Sear across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的LLM安全训练方法鼓励有害推理以获得更好的安全性
研究人员开发了一种新颖的方法来缓解大型语言模型（LLM）中的过度拒绝问题，通过重新构建安全训练。新方法不是仅仅阻止有害推理，而是鼓励模型探索潜在不安全的想法，以此来更好地区分有害和无害的提示。这种对抗性优化技术训练一个单一模型，使其既扮演探索不安全策略的推理角色，又扮演确保安全最终输出的回答角色。由此产生的模型SEAR在提高安全性的同时，减少了对良性查询的不必要拒绝，并增强了对推理操纵攻击的防御能力。
-
新的SEAR框架通过双过程AI增强图像修复
研究人员推出了一种名为自演进代理图像修复（SEAR）的新型框架，旨在应对复杂的图像修复挑战。SEAR采用了一种受人类认知启发的双过程方法，包括用于长时程推理的深思熟虑规划器（Deliberate Planner）和用于快速决策的直观执行器（Intuitive Executor）。深思熟虑规划器利用了修剪感知蒙特卡洛树搜索（Pruning-Aware Monte Carlo Tree Search）和多模态大语言模型（MLLM）来平衡探…
-
研究人员揭示针对增强现实大型语言模型社会工程攻击的防御措施
研究人员开发了两个新的框架来对抗利用增强现实（AR）和大型语言模型（LLMs）的社会工程攻击。第一个框架PhySE使用视觉语言模型进行快速画像生成，并使用自适应心理学代理实时定制社会工程策略。第二个框架UNSEEN提供了跨堆栈防御，结合了AR设备的访问控制、用于画像抑制的大型语言模型遗忘以及运行时代理护栏。两个框架均在获得IRB批准的用户研究中进行了评估，涉及60名参与者和360次标注对话。