实体
Matt Fredrikson
Matt Fredrikson
PulseAugur coverage of Matt Fredrikson — every cluster mentioning Matt Fredrikson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Gray Swan 通过先进的红队测试工具应对 AI 安全风险
Gray Swan 公司由 Zico Kolter 和 Matt Fredrikson 联合创立，正在开发用于 AI 安全的工具和方法论，重点关注“灰天鹅”事件——即不太可能但可预见的 AI 事件。他们的工作解决了提示注入等漏洞，尤其是在 AI 代理方面，并开发了 Shade 等用于对抗性红队测试的工具以及 Cygnal 用于策略执行。Kolter 是 OpenAI 的董事会成员，Fredrikson 是 CMU 的教授，他们强调 A…
-
AI安全公司Gray Swan融资4000万美元，估值2亿美元
AI初创公司Gray Swan已完成4000万美元的A轮融资，公司估值达到2亿美元。该公司雇佣了约15000名安全专业人士，他们扮演黑客的角色，对OpenAI和Anthropic等主要实验室的AI模型进行压力测试。这些数据用于训练Gray Swan的AI代理Shade和Cygnal，它们能够识别和缓解AI系统中的漏洞，防止生成有害内容或未经授权的工具访问。该公司的创始人，教授Matt Fredrikson和Zico Kolter，在A…