AI poisoning
PulseAugur coverage of AI poisoning — every cluster mentioning AI poisoning across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新TOFD框架增强分裂联邦学习对抗投毒攻击
研究人员开发了一个名为目标导向特征解耦（TOFD）的新框架，以对抗分裂联邦学习（SFL）中的投毒攻击。TOFD分三个阶段进行：通过类特定边距扰动识别潜在攻击目标，净化被投毒的数据样本，并使用对抗性引导模型在优化过程中解耦和抑制攻击影响。实验表明，TOFD在各种攻击场景下始终优于现有防御方法，以较低的计算开销提供强大的保护。
-
AI投毒：竞争对手用错误数据污染模型
AI投毒是一种恶意策略，竞争对手故意用虚假数据污染AI模型。这种操纵可能导致不准确的输出、有偏见的决策以及对AI系统信任的丧失。防范AI投毒需要强大的数据验证、持续的模型性能监控以及实施检测和中和被投毒输入的保护措施。
-
新框架 \alg 通过联邦强化学习保护自动驾驶汽车免受投毒攻击
研究人员开发了一个名为 \alg 的新框架，以增强自动驾驶汽车中使用的联邦强化学习 (FRL) 系统的安全性。该框架解决了投毒攻击的威胁，投毒攻击可以通过注入恶意参数来破坏全局控制模型。\alg 集成了数字孪生进行基于排练的学习，并利用历史数据确保只聚合良性信息，从而减轻恶意代理的影响。该系统的有效性已通过理论保证并在现实高速公路环境的模拟中得到验证。
-
营销人员采用AI中毒来操纵LLM搜索结果
营销人员正试图通过提供有偏见的信息来操纵大型语言模型（LLM），这种做法被称为AI中毒。该策略旨在影响AI搜索结果，使其符合特定的品牌或营销议程。随着用户越来越依赖AI获取信息，这一问题已引起关注。
-
恶意软件活动利用 GitHub，引发 AI 安全担忧
一位安全研究人员发现了一个在 GitHub 上运行的大规模恶意软件分发活动，该活动利用该平台传播恶意软件。该活动突显了平台安全方面的一个严重漏洞，研究人员已向尚未解决此问题的供应商提供了详细信息。这一疏忽引发了对当前防御能力能否保护免受复杂威胁的担忧，尤其是在 LLM 投毒等与 AI 相关的安全漏洞的背景下。
-
人们日益担忧何时会有法律禁止人工智能投毒
有人提出了关于何时将颁布法律禁止人工智能投毒的问题。这指的是通过喂食虚假或有害数据来破坏人工智能模型的恶意行为。讨论强调了此类攻击可能破坏人工智能系统的担忧。