Mads Hansen
PulseAugur coverage of Mads Hansen — every cluster mentioning Mads Hansen across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
MarketNow's L1.9 Prompt Injection Screening lacks false positive rate data
MarketNow's L1.9 system, recently renamed 'Prompt Injection Screening', uses regex rules for threat identification. However, the provided evidence explicitly states that it 'lacks measured false positive rates'. This is a critical gap for a security system intended to be a pre-admission filter, as unquantified false positives could lead to legitimate user actions being blocked.
MarketNow will release metrics on L1.9 false positive rates within 60 days
Given the explicit mention of lacking false positive rates for the L1.9 Prompt Injection Screening system, and the general trend of increased transparency and security focus in recent MarketNow updates, it is plausible they will prioritize measuring and releasing these metrics. This would be a logical next step to validate the effectiveness of their L1.9 layer.
Schema drift in MCP servers is concentrated and appears deliberate
Analysis of MCP servers shows that schema drift is not widespread but confined to a small subset of active servers. Crucially, there have been no instances of reversion, suggesting that the observed changes in tool contracts are intentional modifications rather than accidental drift. This implies a need to monitor the specific servers exhibiting these changes.
-
Trust Gateway 管道通过 12 级验证完善安全性
Trust Gateway，此前被错误地标记为防火墙，现在是一个 12 级验证管道，旨在在任何阶段拒绝请求。它包含了提示注入检测规则和参数检查，尽管这些并未被呈现为完整的防御措施，而是一个隔离层。该系统已经过大量使用变异凭证的模糊测试，确保了拒绝而不会崩溃，并且基于属性的测试验证了规范化不变性。未来的更新将包括用于增强安全性的工具输出的执行后过滤和伪影摘要固定。
-
开发者的 CI/CD 警报故障凸显了对健壮监控的需求
一位开发者遇到了 CI/CD 流水线中的一个静默故障，其中一个每日警报通知停止发送而无人察觉。一位读者建议采用更健壮的监控方法，涉及一个部署在生产路径上的金丝雀，用于验证通知系统。这导致发现了一个之前的更改，该更改起初似乎有效，但通过检出单独的分支进行日志记录，无意中删除了通知步骤。
-
MarketNow 在社区反馈中阐述 AI 安全层
MarketNow 正在回应社区反馈，澄清其安全架构，特别是解决了关于其 L1.9 提示注入筛选器和 L3 运行时拦截器的担忧。L1.9 层现已更名为“提示注入筛选”，使用正则表达式识别潜在威胁，但缺乏经过衡量的误报率。L3 拦截器作为确定性的故障关闭否决机制，在每次工具调用前执行，以阻止恶意操作，并补充定期的重新证明检查。MarketNow 还在实施一个带有 `ca_key_id` 字段的签名密钥注册表，以检测密钥轮换并确保安全证明的完整性。
-
L1.9 提示注入筛选系统更名，计划发布公共语料库
L1.9 系统，此前被称为防火墙，现更名为提示注入筛选。此更改反映了其作为静态预 admission 过滤器而非运行时执行层的职能。开发者计划发布一个名为 marketnow-l1.9-corpus 的已标记语料库，其中包含已知攻击、良性提示和释义攻击的测试用例，以展示该系统的有效性。他们还承认需要运行时监控和执行来解决工具结果投毒和受损更新等问题，这些问题由 L3 和 L4 系统处理。
-
Agent Trust Card系统修复bug，增强防密钥泄露安全性
作者回应了关于Agent Trust Card (ATC)系统的反馈，详细说明了影响签名验证的规范化bug修复。该系统现已采用RFC 8785作为JSON规范化方案，确保在不同编程语言中实现一致的密钥排序，并防止嵌套对象双重编码。此外，作者还概述了处理证书颁发机构(CA)密钥泄露的三层策略，包括密钥轮换、具有60秒TTL的签名吊销列表，以及为高价值代理计划的多重签名ATC。
-
MarketNow 详解安全架构反馈与增强
作者正在回应有关 MarketNow 安全架构的安全反馈，特别是解决了关于分层防御、运行时强制和工具表面治理的担忧。关键点包括开发用于工具功能的新模式，实施工具目录差异机制以检测描述投毒，以及澄清不同安全层如何运作，区分模式匹配和行为分析。作者承认当前静态分析的局限性，并强调需要运行时强制来捕获复杂威胁。
-
MCP服务器模式漂移集中在少数活跃子集中
对MCP服务器的最新分析显示，模式漂移并非持续发生，而是集中在一小部分活跃开发服务器中的现象。在跟踪的474台服务器中，只有一小部分在三个快照中经历了工具合同的变化，没有出现回滚，表明是故意修改。研究还强调，虽然只有18%的工具声明了输出合同，但更大的问题可能在于其余82%未声明的工具，这带来了解析意外数据的风险。
-
Agent Trust Card 系统通过错误修复和运行时信任计划应对安全反馈
Agent Trust Card (ATC) 系统的开发者正在回应有关其安全管道的反馈。关键更新包括修复影响 JSON 负载中嵌套对象排序的规范化错误，实施带有版本控制和多重签名功能的 CA 密钥轮换计划以减轻密钥泄露风险，并承认在安装后获取负载的实时代码的运行时信任方面持续存在的挑战。正在开发运行时信任的解决方案，重点关注持续监控、工具目录差异比较和出口允许列表强制执行。
-
AI 数据库代理需要安全架构，而非直接表访问
Mads Hansen 提出了一种安全的 AI 数据库代理架构，强调模型不应直接与原始数据库表交互或拼接 SQL 查询。相反，代理应利用封装了业务逻辑、安全策略和数据审查规则的已批准视图。这种方法确保敏感信息被屏蔽，强制执行租户边界，并通过参数化系统而非直接字符串拼接安全地执行查询，从而降低数据泄露和查询执行不正确的风险。