MLsec
PulseAugur coverage of MLsec — every cluster mentioning MLsec across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
自2019年以来，在新兴威胁中，ML安全工作仍在进行中
文章强调了保障机器学习（ML）系统所面临的持续的重大挑战，并指出这不是一个新问题。文章指出，自2019年以来，保障ML和工程实践的努力一直在进行中，并且ML安全领域仍有大量工作需要完成。
-
麦克丹尼尔教授讲解真实的AI安全顾虑
麦克丹尼尔教授讨论了真实的AI安全顾虑，将其与典型的供应商关注的机器学习安全实践区分开来。这次演讲在一个下雨天进行，旨在提供一个更真实的AI安全视角。
-
微软在AI和ML安全战略方面据称举步维艰
据Dan Goodin的报道，微软在其AI和ML安全战略方面据称举步维艰。文章暗示该公司在这些关键领域缺乏明确的方向。
-
对前沿AI模型的依赖带来业务连续性风险
严重依赖特定前沿AI模型的企业面临着对其连续性和未来定价的重大风险。这种依赖可能导致不可预见的限制和成本增加，因为提供商会调整其产品。企业在将AI集成到其运营中时，考虑这些风险至关重要。
-
论文认为 AI 安全基准没有意义
一篇新论文认为，当前 AI 的安全基准没有意义。作者认为，这些基准未能捕捉到 AI 系统的真实世界风险和复杂性。相反，该论文提议转向更定性和更具情境意识的评估方法，以更好地评估 AI 安全性。
-
MLSec 和 AI 治理在 Data Culture 播客上被讨论
两位 Mastodon 用户分享了他们作为嘉宾参加了 Data Culture 播客节目。在播客中，他们讨论了机器学习安全 (MLSec) 的各个方面，包括递归污染和数据策展等主题。对话还涉及了 AI 治理。
-
AI安全风险：递归污染成为对CISO的新威胁
一种名为“递归污染”的新型安全漏洞已出现，其目标是首席信息安全官（CISO）群体。该威胁利用机器学习系统，可能影响安全专业人员管理和保护数据的方式。其对网络安全实践和机器学习在安全领域更广泛应用的影响仍在评估中。
-
BIML将递归污染识别为首要ML安全风险
BIML将递归污染识别为机器学习安全中的主要风险。这种威胁涉及AI系统可能因其自身的输出或在训练或运行期间引入的恶意数据而受到破坏。解决这个问题对于维护企业AI应用程序的完整性和可靠性至关重要。
-
新的播客系列探讨新兴的 ML 安全领域
Silver Bullet 播客推出了一系列新节目，专门关注机器学习安全，也称为 MLsec。该系列节目邀请了该领域的知名人士进行讨论，包括 Phil Venables、Giovanni Vigna 和 Gadi Evron。这些节目旨在探讨机器学习系统中不断发展的安全格局。
-
MLSec 元老 Patrick McDaniel 访问 Berryville 机器学习实验室
机器学习安全 (MLSec) 领域的杰出人物 Patrick McDaniel 近期访问了 BIML。McDaniel 被认为是 MLSec 领域的奠基性研究者和重要的学术领袖。他的到访凸显了学术专长与网络安全实际应用之间持续的互动。
-
ML 研究人员探讨递归污染和模型崩溃的影响
Mastodon 上的一场讨论强调了机器学习中递归污染和模型崩溃之间的区别。对话指向一个探索这些概念的研究线索，暗示了对 ML 安全的重大影响。