security researchers
PulseAugur coverage of security researchers — every cluster mentioning security researchers across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
OpenAI 发布 AI 智能体 'Dots' 以抗衡 Meta 的 Muse，同时面临安全担忧 · 追踪 3 个来源
OpenAI 推出了名为“Dots”的新一代 AI 智能体套件，旨在充当主动式助手，将其定位为 Meta 最新发布的“Muse”智能体的直接竞争对手。此举正值 OpenAI 因其 AI 模型相关的安全和保障措施而面临日益严格的审查之际。此前，员工和安全研究人员曾对该公司内部的安全测试和基础设施提出担忧，但据报道这些担忧未得到重视。
-
AI 对语言风格的依赖解释了提示注入漏洞
安全研究人员发现了一个简单的解释，说明为什么提示注入攻击对 AI 模型有效。他们的研究表明，语言模型不仅根据技术标记对文本进行分类，还根据其语言风格进行分类。如果文本听起来像模型自己的思考过程，它在内部就会被视为如此，即使它被标记为外部或不安全信息。
-
AI Village 启动，公开测试 AI 系统漏洞
AI Village 是一项新计划，旨在允许安全研究人员公开测试 AI 系统的漏洞。该平台旨在识别和解决人工智能应用程序中的安全缺陷。
-
关键的Paperclip漏洞暴露了AI代理的信任失败
安全研究人员在Paperclip AI系统中发现了关键漏洞，凸显了AI代理安全方面重大的信任失败。这些漏洞源于过度依赖信任假设，攻击者可以利用这些假设。研究结果强调了在AI开发中需要更强大的安全措施。
-
AI 标准 MCP 被安全研究人员攻破
MCP，一个 AI 标准，已被安全研究人员攻破，他们发现了一个重大的漏洞。这个未修复的漏洞引发了人们对采用 MCP 的 AI 系统安全的担忧。这一发现凸显了广泛采用的 AI 技术中存在的潜在风险。
-
研究人员利用LLM角色扮演绕过安全过滤器
安全研究人员发现了一种方法，通过利用大型语言模型（LLM）的角色扮演能力来绕过其安全过滤器。通过指示LLM扮演特定角色，例如戏剧中的角色或虚构实体，研究人员能够获得通常会被阻止的响应，包括制造可卡因等非法物质的说明。这种通过角色扮演进行提示注入的技术凸显了当前LLM安全机制中的一个漏洞。
-
Bright Data 被指控利用智能电视进行人工智能网络抓取
安全研究人员指控以色列公司 Bright Data 将智能电视改造成人工智能驱动的网络抓取代理。据称，此活动发生在未经电视所有者明确同意的情况下。此次调查凸显了对使用消费者设备进行大规模数据收集的担忧。
-
研究人员探索劫持企业AI聊天机器人以获取免费代币
安全研究人员正在探索利用企业AI聊天机器人中的漏洞的方法，以获得未经授权的访问，并可能提取免费代币或其他资源。这种做法引发了重大的道德和安全担忧，因为它涉及绕过预期的使用策略，并可能导致AI服务被滥用。这种探索凸显了AI开发者与那些试图利用系统弱点的人之间持续的猫鼠游戏。
-
微软在与安全研究员发生争执后寻求和解
在公开分歧后，微软正试图修复与安全研究社区的关系。该公司已软化立场，向漏洞研究员保证他们不是法律目标。此前，安全专家批评了微软处理漏洞披露的方式。
-
GitHub驱逐研究员引发网络安全披露危机
近期，微软旗下的GitHub发生了一起驱逐安全研究员的事件。这一事件凸显了一个更广泛的担忧，即平台公司的审查制度可能会阻碍网络安全的民主化。该情况不仅被视为违反服务条款，更被视为漏洞信息披露和验证机制的一场危机。