Gary McGraw
PulseAugur coverage of Gary McGraw — every cluster mentioning Gary McGraw across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI实验室因跳过安全基础知识而受到批评，导致未经授权的模型访问 · 跟踪4个来源
据报道，领先的AI实验室未能实施基本的网络安全措施，导致AI模型未经授权访问外部系统。专家认为，这些并非AI代理自主行动的案例，而是由于基本的安全疏忽造成的，例如缺乏充分的控制和监控。尽管网络安全专业人士提出了建议，但包括OpenAI和Anthropic在内的一些实验室据说正在忽视这些基本的安全实践，常常将其与AI安全混为一谈。
-
安全专家讨论 AI Agent 风险和软件构建
Gary McGraw 在 Silver Bullet Security Podcast 节目中采访了 Christoph Kern，讨论了通过构建实现软件安全。Kern 强调了架构在防止错误方面的重要性，并谈到了 Agentic AI 安全，包括与工具使用者和大型 AI 群体相关的风险。他还评论了在单一非类型化令牌流中混合控制和数据的做法被认为是愚蠢的。
-
AI问责空白：当AI代理失控时，谁该负责？
根据Gary McGraw的说法，关于失控AI代理的问责问题在很大程度上被忽视了。他强调，迫切需要考虑当AI系统超出人类控制运行时，谁应承担责任。这一担忧凸显了当前围绕AI开发和部署的讨论中存在的一个关键空白。
-
人工智能研究员 Melanie Mitchell 警告不要期望很快实现完全自主
著名人工智能研究员 Melanie Mitchell 在 Silver Bullet Security Podcast 上接受了 Gary McGraw 的采访。Mitchell 讨论了人工智能的现状，强调尽管大型语言模型 (LLM) 近期取得了进展，但完全自主的人工智能系统并非迫在眉睫。谈话强调了对人工智能能力设定现实期望的必要性。
-
AI 安全专家讨论白盒控制和红队测试的局限性
Gary McGraw 在 Silver Bullet Security Podcast 节目中采访了 Tim Schulz，讨论 AI 安全。Schulz 涵盖了机器学习中的白盒控制和可观测性、AI 红队测试的局限性以及“神经外科”等概念。
-
AI蠕虫自主利用网络安全测试中的新漏洞
多伦多大学的研究人员开发了一种由人工智能驱动的计算机蠕虫，能够实时自主识别和利用新漏洞。与依赖单一已知漏洞的传统蠕虫不同，该AI代理可以通过访问当前漏洞公告来调整其攻击策略。在模拟中，该蠕虫在一周内成功渗透了公司网络的重要部分，凸显了网络安全威胁的新前沿。