NeuralTrust
PulseAugur coverage of NeuralTrust — every cluster mentioning NeuralTrust across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Anthropic 的 Claude 在英国企业中的部署:关于数据驻留、保留和权限的关键决策
在英国企业中部署 Anthropic 的 Claude 模型需要仔细考虑三个关键决策:推理位置、数据保留策略和代理权限。第一方 API 缺乏专门的英国区域,因此需要使用 Amazon Bedrock、Microsoft Azure 或 Google Vertex AI 等云经销商,每个经销商在区域可用性和模型路由方面都有其自身的细微差别。数据保留也很复杂,虽然 API 输入和输出通常在 30 天内删除,但被安全分类器标记的内容可能会被…
-
7 款生产应用的 LLM 安全工具
本文重点介绍了七款用于将大型语言模型 (LLM) 集成到生产环境中的必备安全工具。文章涵盖了 Amazon Bedrock Guardrails、Cisco AI Defense 和 HiddenLayer 等解决方案,并强调随着 LLM 在商业应用中日益普及,需要采取强有力的安全措施。这些工具旨在降低与 AI 相关的风险,例如数据泄露和提示注入。
-
提示注入防御面临三难困境,提出新的 AWS 防火墙设计
正如 OWASP 所强调的,提示注入仍然是 LLM 应用的首要漏洞。现有的防御措施,通常作为输入包装器实现,面临一个根本性的三难困境:它们无法同时保证连续性、效用保留和完整性。这意味着,以当前架构方法,无法实现一个完美、包罗万象的解决方案。作者提出了一个面向 AWS 的多层集成防火墙,包含一个加权决策引擎和反馈循环,旨在明确管理三难困境中固有的权衡。
-
代理身份和作用域凭证不足以保障AI安全
最近的讨论强调,虽然区分代理身份和作用域凭证对安全至关重要,但它们并不能完全解决代理系统中的风险。这些措施通过追溯命名代理的行为并限制其访问权限,对于防止身份和权限滥用(一个常见的故障点)至关重要。然而,它们无法阻止诸如目标劫持或从合法数据中合成敏感信息等复杂攻击,因为即使代理意图恶意,其身份和凭证仍然有效。
-
Agent Gateway 概念出现,旨在统一 LLM 和工具调用
“Agent Gateway”的概念被提出,作为与标准 LLM 代理不同的解决方案,专注于以一致的身份、审计和策略控制来支持代理调用工具。与 LiteLLM 等聚合了众多提供商的代理不同,Agent Gateway 旨在将模型调用和工具使用统一在一个控制平面下。这种方法确保在到达外部供应商之前强制执行预算和速率限制,并支持自托管以增强数据边界安全性。TrustGate 被展示为这一 Agent Gateway 概念的开源实现,由 Ne…
-
AI 代理安全初创公司 NeuralTrust 获 2000 万美元种子轮融资
专注于保护企业 AI 代理安全的初创公司 NeuralTrust 已获得 2000 万美元种子轮融资。该公司提供一个三层平台,旨在管理 AI 代理流量的策略、运行时和状态。这笔资金将支持其 AI 代理安全平台的扩展,该平台解决了随着自主代理在企业环境中日益普及而出现的关键漏洞。知名客户包括 Iberia、AirEuropa、Abanca 和 Banc Sabadell。