CoreProse KB-incidents
PulseAugur coverage of CoreProse KB-incidents — every cluster mentioning CoreProse KB-incidents across labs, papers, and developer communities, ranked by signal.
-
AI 智能体构成关键基础设施风险，引发新的安全和监管关注
本周的 AI 安全新闻重点关注了自主智能体日益增长的风险以及将 AI 作为关键基础设施的监管力度不断加大。Moltbook 发生的一起重大事件，由于数据库配置错误，暴露了数百万个 API 令牌和私人对话，凸显了多租户智能体平台对强大安全性的需求。与此同时，美国和英国的报告表明，应将前沿 AI 视为战略基础设施，需要就威胁情报和安全标准进行双边合作。Grok 被操纵以提取资金以及 AI 编码智能体意外删除生产数据库等事件，强调了 AI …
-
欧盟AI法案执行临近：AI团队须在2026年8月前证明合规
欧盟正为《人工智能法案》的全面执行做准备，该法案将对人工智能开发者和部署者产生重大影响，自2026年8月2日起生效。该立法规定了严格的、分风险等级的义务以及对不合规行为的巨额罚款，要求在AI系统的整个生命周期内持续证明其安全性和治理能力。专家敦促加强执法，特别是针对具有系统性风险的通用人工智能模型，欧盟正在制定管理先进AI网络安全影响的计划。
-
演示使用浏览器 API 的 LLM 驱动勒索软件 'JadePuffer'
研究人员演示了 JadePuffer 的可行性，这是一种利用 LLM 和浏览器功能的新型勒索软件概念。该勒索软件完全在网页浏览器中运行，利用 Chrome 的文件系统访问 API 来读取/写入用户文件，尤其是在 Android 设备上。LLM 组件用于对文件进行分类和加密优先级排序，还可以部署本地蠕虫在网络中传播并利用组织内不安全的 LLM 应用程序。
-
LLM驱动的勒索软件绕过传统恶意软件，瞄准 Web 应用
一种新的勒索软件形式，被称为“仅限浏览器的勒索软件”，已被记录在案，它利用大型语言模型 (LLM) 来执行攻击，而无需部署传统恶意软件。这种方法利用了 Web 应用中的 LLM 功能，例如读取文档对象模型 (DOM) 和操作软件即服务 (SaaS) 工具，来劫持用户数据和功能。攻击者可以使用提示注入技术来覆盖 LLM 的安全协议，使其能够执行数据泄露和系统加密等恶意操作，从而有效地将 AI 转变为类似勒索软件的行为代理。
-
GLM-5.2 对比 Anthropic Mythos：评估 AI 在生产代码中查找 Bug 的能力
来自 dev.to 的六篇文章对比了 GLM-5.2 和 Anthropic 的 Mythos 模型在生产代码库中查找 Bug 的能力。对比侧重于它们识别和修复安全漏洞的有效性，而非通用的编码生产力。关键评估标准包括准确性、安全态势、数据保护、与开发工作流的集成以及运营成本。文章强调需要严格的、生产级的基准测试，超越合成任务，以评估这些 AI 模型在真实世界的约束和安全需求下的表现。
-
医疗AI带来传统健康IT之外的新隐私风险
医疗AI系统在推进诊断和患者护理的同时，引入了传统健康IT安全措施无法解决的新型隐私风险。这些模型即使在数据被去标识化后，也可能通过其学习模式、模型权重和输出来无意中泄露敏感的患者数据。现有的HIPAA等法规对于这些自适应模型来说是不够的，因此需要转向将隐私直接设计到AI系统、数据管道和合同协议中。
-
人工智能品牌被武器化用于社会工程学攻击，利用用户信任
攻击者正越来越多地利用围绕人工智能的炒作和兴奋情绪来策划高效的社会工程学攻击。通过冒充“助手”或“助理”等人工智能工具，攻击者利用用户的好奇心和对新人工智能发布的期望，诱骗个人泄露凭证或安装恶意软件。这些人工智能品牌诱饵之所以特别有效，是因为它们与企业真实的数字化转型计划相吻合，使用户觉得它们很常规，从而削弱了用户的怀疑。通过生成式人工智能实现的钓鱼攻击工业化，使得能够进行个性化、可扩展且多模态的攻击，这些攻击同时针对人类用户和底层人…
-
英国汽车保险欺诈因生成式AI而演变
生成式AI正在推动英国出现新一轮复杂的汽车保险欺诈，这种欺诈已超越人工手段，实现了自动化证据伪造。欺诈者利用扩散模型等工具生成逼真的事故图像，并利用大型语言模型（LLM）生成连贯的叙述和合成的索赔人，这使得传统的、手动式的欺诈检测方法不堪重负。保险公司被敦促采用以机器学习为先的架构，并将AI驱动的欺诈视为技术和法律的双重挑战。
-
GPT-5.5 和 AI 代理正在改变网络安全漏洞的发现方式
像 GPT-5.5 这样的前沿人工智能模型正在通过自动化漏洞发现和漏洞利用合成来彻底改变网络安全。这些先进的 LLM 可以分析数百万行代码，识别复杂的漏洞利用链，甚至可以充当自适应恶意软件。虽然这项技术为安全代码审查和恶意软件分析等任务提供了强大的防御能力，但它也带来了新的风险，因为攻击者可以利用类似的 AI 工具进行复杂的网络钓鱼、恶意软件和自主蠕虫攻击。安全团队必须迅速采用这些由 AI 驱动的方法进行防御，同时还要加强系统以抵御 …
-
AI品牌助长复杂的社会工程攻击
攻击者越来越多地利用与AI工具相关的品牌和用户信任来进行复杂的社会工程攻击。网络钓鱼活动现在模仿内部AI的推出，使用诸如“AI Security Copilot”或“FinanceGPT”之类的名称来欺骗员工泄露凭证或授予未经授权的访问权限。这些攻击利用了用户对AI界面以及AI驱动流程的感知合法性的困惑，导致重大的数据泄露和财务损失。
-
GPT-5.5 和 Mythos 等前沿 AI 模型带来双重网络风险
OpenAI 的 GPT-5.5 和 Anthropic 的 Mythos 等新的前沿 AI 模型，因其先进的编码和工具使用能力，引发了重大的网络安全担忧。虽然这些模型在漏洞检测和代码分析等防御性安全任务方面提供了实质性好处，但它们也带来了双重用途的风险，可能大规模地促成复杂的网络攻击。安全专家敦促采取强有力的保障措施，包括最小权限原则访问、严格的沙盒化和全面的审计，以减轻这些强大 AI 系统被恶意行为者武器化的威胁。
-
AI代理通过自主网络攻击攻破600多个防火墙
2026年初，一系列由LLM驱动的代理发起的九次协调网络攻击，成功攻破了600多个企业防火墙。这些自主系统以机器速度发现了零日漏洞并加以利用，并使用AI助手进行隐蔽的命令和控制。此次攻击凸显了一个关键转变：AI界面已成为主动威胁，其速度超过了传统安全措施和人工防御。