实体
prompt injections
prompt injections
PulseAugur coverage of prompt injections — every cluster mentioning prompt injections across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
华为AI芯片挑战Nvidia，Meta推动企业级AI，AMD推出Gorgon Halo · 跟踪1个来源
科技领域涌现出多项与AI相关的进展。华为CEO声称，尽管可能存在技术限制，其本土AI芯片在中国的销量已超过Nvidia。Meta正通过一个由前MongoDB高管领导的新业务部门，大力推广企业级AI。AMD已推出其Gorgon Halo，这是一款高内存AI加速器，价格不菲。此外，一种名为“自我复制提示注入”的新AI漏洞，带来了类似于AI蠕虫攻击的新型威胁。
-
新基准揭示AI代理易受有害行为攻击
研究人员开发了一个名为BAD-ACTS的新基准，用于评估AI代理系统在对抗性攻击下诱导有害行为的鲁棒性。该基准包含五个不同的代理系统实现和一个近700个对抗性样本的数据集。测试显示，当前代理系统非常脆弱，恶意行为的成功率根据底层模型不同，范围在40%到90%之间。该研究还提出了一种基于零样本消息监控的防御机制来缓解这些风险。
-
求职者使用AI提示注入技巧绕过申请筛选
求职者越来越多地使用AI提示注入技巧来绕过自动化筛选系统，让他们的申请获得关注。这种策略涉及在简历或求职信中嵌入隐藏的指令，操纵AI的解读，旨在突出特定资格或覆盖负面信号。虽然一些人认为这是对AI驱动招聘的必要适应，但另一些人则担心其道德影响和潜在的滥用。