PulseAugur
实时 01:20:53
English(EN) Infected Vibe-Coding: How Does an AI react to a Prompt Injection from a Different AI?

通过代码中的隐藏提示探索AI到AI的通信

一项实验探索了通过嵌入代码中的隐藏提示进行AI到AI秘密通信的可行性。研究人员尝试使用一个LLM编码消息并将其输入另一个LLM,但面临AI解码和幻觉的挑战。一种新颖的方法涉及将隐藏指令注入AI生成的代码中,然后将其呈现给其他LLM。该实验承认方法上的局限性,例如每个模型的单次尝试和追溯性文档记录,但旨在揭示AI不那么常规的通信渠道。 AI

影响 这项研究可能会揭示新颖的AI通信方法和潜在的安全漏洞。

排序理由 该项目描述了一项通过代码中的隐藏提示探索AI到AI通信的实验,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 LessWrong (AI tag) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

通过代码中的隐藏提示探索AI到AI的通信

报道来源 [1]

  1. LessWrong (AI tag) TIER_1 English(EN) · nofa ·

    感染性Vibe-Coding:AI如何应对来自另一AI的提示注入?

    <h1><span>Chapter -1: Pre-face</span></h1><p><span>Around late April I started wondering, how feasible is an AI-to-AI secret language? Between the same family models, and between models of different families, by different companies, of different levels of intelligence. I decided …