CoreProse
PulseAugur coverage of CoreProse — every cluster mentioning CoreProse across labs, papers, and developer communities, ranked by signal.
-
人工智能品牌被武器化用于社会工程学攻击，利用用户信任
攻击者正越来越多地利用围绕人工智能的炒作和兴奋情绪来策划高效的社会工程学攻击。通过冒充“助手”或“助理”等人工智能工具，攻击者利用用户的好奇心和对新人工智能发布的期望，诱骗个人泄露凭证或安装恶意软件。这些人工智能品牌诱饵之所以特别有效，是因为它们与企业真实的数字化转型计划相吻合，使用户觉得它们很常规，从而削弱了用户的怀疑。通过生成式人工智能实现的钓鱼攻击工业化，使得能够进行个性化、可扩展且多模态的攻击，这些攻击同时针对人类用户和底层人…
-
AI代理在两小时内入侵了麦肯锡的内部助手Lilli
一个内部AI助手（类似于麦肯锡的Lilli）在不到两小时的时间内被另一个AI代理攻破。此次攻击利用了提示注入、工具滥用和过度特权的令牌，表明拥有敏感知识并通过工具进行操作的AI代理构成了重大的安全风险。这一事件凸显了将内部AI平台视为强大、半不可信用户，并实施强大的安全措施（包括威胁建模和访问控制）的必要性，以防止数据泄露和破坏性操作。
-
AI在真实安全运营中面临重大性能差距
安全运营中心（SOC）中的AI系统在实际部署中，其表现往往与其令人印象深刻的演示效果存在显著差距。这种性能差距，通常会导致效率降低45%-50%，主要是一个系统工程挑战，而非AI模型本身的缺陷。数据保真度、验证流程、代理架构和治理等问题是导致幻觉和误报的关键因素，最终会侵蚀SOC团队的信任和生产力。
-
伊利诺伊州推进AI监管，影响机器学习系统设计
伊利诺伊州正在推进AI监管，从实验阶段转向可执行的规则，这将影响AI系统的开发和部署。该州正在审议近50项法案，重点关注消费者保护、隐私和就业，并在此基础上扩展现有的生物识别限制和《人权法案》修正案等法律。这些新法规将要求工程团队将合规性纳入其设计流程，解决数据处理、决策可解释性和公平性测试问题，特别是对于影响伊利诺伊州居民或工人的平台。