开源安全基金会 (OpenSSF) 已启动一个专注于 AI/ML 与安全交叉领域的工作组。该工作组旨在探讨与大型语言模型 (LLM) 和生成式 AI (GenAI) 等 AI 技术相关的安全风险，特别是它们对开源项目和社区的影响。它还将研究如何利用 AI 来增强其他开源计划的安全性，解决数据投毒、提示注入和对抗性攻击等问题。 AI
影响 解决 AI 中的关键安全风险，并探索 AI 在增强开源安全性方面的作用。
排序理由 知名开源基金会成立新工作组以解决 AI/ML 安全风险。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
AI/ML Security < https:// openssf.org/groups/ai-ml-secur ity/ > @ openssf @ linuxfoundation ＂This working group is situated at the intersection between security and artificial intelligence (AI). We explore the security risks associated with Large Language Models (LLMs), Generativ…
Open source is benefiting from the current AI trend: some projects are already improving their security posture and reducing their attack surface. Proprietary software, for now, seems more out of the loop. But once LLMs become better at analysing binaries, compiled code, and obfu…