Trusted Execution Environments
PulseAugur coverage of Trusted Execution Environments — every cluster mentioning Trusted Execution Environments across labs, papers, and developer communities, ranked by signal.
-
Google Research 发布用于设备端 AI 的私有分析
Google Research 开发了一种新的加密协议用于私有分析，结合了安全聚合和可信执行环境（TEEs）。这种零信任方法允许设备端 AI 系统收集关于其性能和用户行为的聚合洞察，而不会损害个人用户隐私。该系统旨在通过提供匿名化的集体趋势来解决理解模型漂移、偏差和实际错误率方面的挑战。
-
AI安全顾问暴露TEE漏洞，提出新的评估方法
研究人员开发了一种名为 TEE-RedBench 的新方法，用于评估像 ChatGPT 和 Claude Opus 这样的大型语言模型在安全咨询方面的能力。研究发现，这些 AI 助手在理解可信执行环境 (TEE) 方面会表现出失败，并且一些错误会在模型之间转移。为了缓解这些问题，研究人员提出了一种“LLM-in-the-loop”评估流程，该流程结合了策略门控、检索接地和验证检查，该流程显示失败率降低了 80%。
-
通过TEE架构实现AI拨款评估的可审计性
研究人员开发了一种使用可信执行环境（TEE）的新架构，可以在不泄露底层模型或评分标准的情况下，使AI辅助的拨款评估过程可审计。该系统允许外部验证者确认所使用的具体模型、评分标准和提示模板，同时通过规范化和清理申请人文档来防范提示注入风险。所提出的方法创建了评估过程的可验证记录，增强了考虑使用LLM进行决策支持的公共机构的问责制。
-
Google Research推出可证明私有的设备端AI洞察
Google Research推出了一套名为Provably Private Insights (PPI)的新系统，旨在分析用户如何与设备端生成式AI功能进行交互。该系统结合了大型语言模型 (LLMs)、差分隐私 (DP) 和可信执行环境 (TEEs)，以确保用户数据保持匿名且无法检查个人数据。PPI系统基于机密联邦分析 (CFA) 构建，允许开发者在不损害用户隐私的情况下获得AI使用模式的洞察，并且Google已将该技术开源以供外部验证。