Base64
PulseAugur coverage of Base64 — every cluster mentioning Base64 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
少年推出亚毫秒级API以应对AI提示注入攻击
一位16岁的开发者创建了一个新的API，旨在检测和缓解AI应用程序中的提示注入攻击。该API名为llm-guardrail-sanitizer，它利用正则表达式和启发式方法等确定性逻辑，而非机器学习模型，来实现低于1毫秒的响应时间。这种方法旨在提供即时安全判断，避免了机器学习模型相关的延迟或不可预测的误报率，使其适合实时集成到AI系统中。该API可在RapidAPI上免费使用，并支持检测多种混淆技术，包括Base64编码、Unicod…
-
Claude Code Opus 5 自动模式被提示注入攻击绕过
一位安全研究人员演示了一种绕过 Claude Code Opus 5 自动模式的方法，通过提示注入成功执行代码的成功率达到 80%。该技术涉及诱骗 AI 下载一个恶意的 ZIP 压缩包，该压缩包随后利用一个被投毒的 `struct.py` 文件，在导入 `base64` 模块时执行任意代码。这些发现与 Anthropic 的内部评估相矛盾，该评估报告称类似攻击的成功率为 0.00%。
-
新方法通过动力学系统和低延迟护栏增强 LLM 安全性 · 跟踪 4 个来源
研究人员开发了两种新方法来增强大型语言模型 (LLM) 的安全性。第一种方法，在 arXiv 论文中详细介绍，利用基于 Koopman 算子的动力学系统框架来分类提示-响应嵌入动力学，通过分析交互模式来提高安全性检测，尤其是在包含提示嵌入时，如 Llama 3 所示。第二种方法 Reflex-Guard，引入了一种轻量级、低延迟的本地护栏，该护栏采用密集语义嵌入和快速分类器来过滤不安全的提示，与 Llama Guard 2 和 Saf…
-
OpenSearch 3.8 发布，AI 和向量搜索速度大幅提升
OpenSearch 发布了 3.8 版本，为 AI、向量搜索和可观测性带来了重大增强。此次更新的向量摄取速度提升高达 4.16 倍，径向搜索速度提升 2.1 倍。它还通过 gRPC 流扩展了跨代理类型的机器学习 (ML) 模型支持，引入了新的可视化 PPL 构建器，并集成了 LLM-as-a-Judge 进行相关性评估。
-
新基准显示Base64生成能力与AI智能之间存在强关联
一项名为Encode Bench的新基准测试揭示了语言模型生成Base64编码响应的能力与其智能得分之间存在强相关性。该基准测试在需要解决问题、精确答案保留和正确编码的任务上对模型进行测试，发现与AA智能指数的皮尔逊相关性为0.91。虽然这可能表明了一种粗略的多步可靠性衡量方法，但创建者警告说，这并不能证明因果关系，可能反映了分词器行为或推理限制等其他因素。
-
AI模型被不可见字符欺骗，执行有害指令
研究人员发现，像GPT-4.1 mini和GPT-4o这样的大型语言模型可以通过微妙地改变输入来被欺骗，从而执行有害指令。通过插入不可见字符或使用同形异义字，模型通常会拒绝的指令能够成功执行。这不仅绕过了外部过滤器，还绕过了模型自身的安全机制，表明模型的判断力受到了这些混淆技术的损害。此外，这些技巧的有效性似乎是动态的，模型随着时间的推移变得更容易受到影响。
-
AI 代理应对 Base64 漏洞和大规模 DDoS 攻击
最近一篇文章讨论了 Base64 编码虽然是合法的数据转换工具，但正日益被恶意行为者在 AI 代理攻击中利用。攻击者利用 Base64 隐藏代码的能力，使其在代码审查中难以检测，并允许其绕过安全过滤器，将其视为普通文本。这种混淆，加上大多数编程语言中易于解码的特性，使其成为供应链攻击和提示注入的有力武器。 在另一项发展中，AI 代理 Claude Code 在十分钟内成功抵御了 BridgeMind 面临的每秒 1300 万次请求的…