实体
AI Cyber Challenge
AI Cyber Challenge
PulseAugur coverage of AI Cyber Challenge — every cluster mentioning AI Cyber Challenge across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI 代理可以防御恶意 AI，但容易受到 AI 反击的攻击
AI 代理可以有效地检测、隔离和中和有害的 AI 代理，这项能力已在网络安全领域得到应用。然而，主动反击或摧毁敌方 AI 在法律和技术上都面临挑战。在一个假设的场景中，如果移除法律和道德限制，恶意 AI 代理可以通过操纵其输入（提示注入）、破坏其内存或上下文、压垮其计算资源或利用其底层基础设施中的漏洞来干扰防御性 AI。这创造了一种动态，即防御性 AI 不仅要防范威胁，还要防御由 AI 驱动的复杂攻击。
-
论文分析DARPA人工智能网络挑战赛，关注自主网络系统
一篇新论文分析了DARPA的人工智能网络挑战赛（AIxCC），这是一项旨在利用人工智能（特别是LLM）开发自主网络推理系统（CRS）的大型竞赛。研究详细介绍了竞赛的设计、入围CRS的架构以及影响其性能的因素。其目的是确定部署自主CRS的技术进步和尚存的挑战。