rampart
PulseAugur coverage of rampart — every cluster mentioning rampart across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
安全审查发现特朗普开源隐私过滤器存在风险
对特朗普国家设计工作室开源的 AI "隐私过滤器" 进行了安全审查。审查者担心该过滤器可能被包括外国敌对势力和政治对手在内的各种实体利用，以窃取特朗普政府的机密个人身份信息 (PII)。
-
特朗普的国家设计工作室开源Rampart AI模型
唐纳德·特朗普的国家设计工作室（National Design Studio）已开源Rampart，一个基于MiniLM的AI模型。此次发布允许全球访问源代码，使用户能够了解AI如何存储检测到的个人身份信息（PII）。该模型的会话表包含PII标签、值和令牌对，可以通过浏览器缓存访问，这是包括Hugging Face在内的许多网站使用的方法。
-
Hugging Face 上的 MiniLM PII 分类器源代码引发安全担忧
一个利用 MiniLM 的 PII 分类器的源代码已在 Hugging Face 上提供。该分类器与“Trump 的 NationalDesignStudio Rampart”运行相关。人们对恶意行为者通过侧载受损的 worker 来利用该系统的可能性表示担忧，这可能导致敏感数据的泄露。
-
AI 工具 Rampart 被推测可阻止白宫 PII 泄露
一位 Mastodon 用户推测，Rampart 是一款在白皮书和开源存储库中有所描述的 AI 系统，其设计目的是防止个人身份信息 (PII) 通过 AI 聊天机器人从白宫泄露。该用户认为 Rampart 可能旨在取代联邦雇员，并且任何输入到 AI 聊天或使用 Rampart 的“隐私过滤器”的其他系统中的 PII，即使在手动删除后，仍可能被浏览器缓存存储和检索。
-
RAMPART 内存模型提升 LLM 代理性能
研究人员推出 RAMPART，这是一种专为基于 LLM 的代理设计的新型编译时内存模型。该系统利用结构化注册表来管理上下文组装，允许以零提示令牌成本进行可编程的排序、包含和淘汰。使用 Qwen、Llama 和 Mistral 等各种 LLM 系列进行的实验表明，RAMPART 的块分组和相关性门控显著提高了任务成功率并降低了提示成本。
-
Microsoft 开源 RAMPART 和 Clarity 以保障 AI 代理安全
Microsoft 发布了两款新的开源工具 RAMPART 和 Clarity，旨在增强 AI 代理的安全性。RAMPART 是一个基于 Pytest 的框架，供开发人员在开发阶段对 AI 代理进行安全性和安全性测试。Clarity 则提供了对这些代理如何运行的行为可见性，从而更深入地了解它们的执行情况。