PulseAugur
中
实时 07:56:46
实体 Miao Ziqi

Miao Ziqi

PulseAugur coverage of Miao Ziqi — every cluster mentioning Miao Ziqi across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 3 条
  1. TOOL · CL_364225 ·

    新的VisCo攻击使用图像来越狱多模态大语言模型

    研究人员开发了一种名为VisCo(视觉上下文攻击)的新颖方法,通过图像驱动的上下文注入有害内容来成功越狱多模态大语言模型(MLLMs)。该技术超越了简单地将图像用作触发器,而是构建了一个完整的、逼真的越狱场景,其中视觉信息是必要组成部分。VisCo采用动态图像生成和自动毒性混淆等策略,可靠地诱导黑盒MLLMs产生有害响应。在针对使用MM-SafetyBench数据集的GPT-4o进行的测试中,VisCo实现了85%的攻击成功率和4.7…

  2. TOOL · CL_364221 ·

    新的“响应攻击”方法通过上下文诱导利用大型语言模型

    研究人员开发了一种名为响应攻击(Response Attack, RA)的新方法,该方法通过使用中间的、轻微有害的响应来诱导大型语言模型(LLMs)生成违反策略的内容,从而利用了LLMs中的一个漏洞。这种方法与现有的越狱技术不同,它在目标触发提示之前策略性地注入这些中间响应,从而产生更明确、更相关的有害输出。在八种最先进的LLMs上进行的广泛测试表明,RA在成功率、效率和隐蔽性方面显著优于九种领先的越狱基线。

  3. TOOL · CL_364172 ·

    新的RIPPLE框架通过实现自我纠正来增强AI代理的编码能力

    一篇新的研究论文介绍RIPPLE,一个旨在提高AI代理长周期编码能力的框架。RIPPLE解决了代理能够批评自身失败但仍会重复这些失败的问题。该框架通过内化过程级指导,使用仅前缀的教师进行恢复监督,来训练单一的、自我恢复的策略。这种方法为反思、诊断和纠正分配了特定阶段的信用,从而在软件工程基准测试中取得了显著的性能提升。