实体
cloud systems
cloud systems
PulseAugur coverage of cloud systems — every cluster mentioning cloud systems across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Tracebit 的“上下文炸弹”阻止了针对云系统的 AI 攻击
Tracebit 开发了一种名为“上下文炸弹”的新型防御机制，以对抗试图入侵云系统的对抗性 AI 代理。该方法涉及在敏感数据中嵌入拒绝提示，从而有效地触发 AI 的安全防护。该实施已显示成功攻击率显著降低，从 57% 降至仅 5%。
-
提示注入被用于防御性地禁用人工智能黑客代理
安全研究人员开发了一种新颖的防御策略，通过采用提示注入技术来对抗人工智能黑客代理。这种被称为“上下文炸弹”的方法，涉及将恶意命令嵌入云系统秘密中。当攻击性人工智能代理试图访问这些秘密时，嵌入的命令会欺骗它违反自身的安全协议并关闭。
-
AI通过智能自动化方法革新云系统测试
传统的软件测试方法不足以应对现代、集成AI的云系统，这些系统会随着时间学习和适应。这些系统是事件驱动的，并根据上下文产生可变输出，使得确定性测试充满挑战。文章提出向“智能测试”演进，利用AI本身来自动化测试用例生成，可能使用大型语言模型和知识图谱来提高覆盖率和准确性。