Trusted Execution Environments
PulseAugur coverage of Trusted Execution Environments — every cluster mentioning Trusted Execution Environments across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新系统保护农民数据用于农业人工智能
研究人员开发了一个名为私有计算空间（PCS）的新系统，以解决阻碍人工智能在农业领域应用的隐私问题。这个开源机器学习系统使用联邦学习、差分隐私和可信执行环境来安全地处理农民数据，同时保持模型的效用。PCS 在纽约和加利福尼亚部署，在监测植物氮含量和预测蒸散量方面证明了其有效性，在不损害隐私的情况下将模型准确性提高了高达 22.4%。
-
新的TEE-X框架加速边缘大型视觉模型
研究人员开发了TEE-X，一个旨在为边缘应用中的可信执行环境（TEE）内的大型视觉模型加速的新框架。该框架解决了在TEE中运行这些模型所面临的内存限制和计算延迟挑战，目标是实现GPU级别的推理速度。TEE-X采用感知敏感的模块化技术和向量化来优化性能，同时为对时间敏感的边缘视觉任务保持准确性和安全性。
-
Google Research 发布用于设备端 AI 的私有分析
Google Research 开发了一种新的加密协议用于私有分析，结合了安全聚合和可信执行环境（TEEs）。这种零信任方法允许设备端 AI 系统收集关于其性能和用户行为的聚合洞察，而不会损害个人用户隐私。该系统旨在通过提供匿名化的集体趋势来解决理解模型漂移、偏差和实际错误率方面的挑战。
-
AI安全顾问暴露TEE漏洞，提出新的评估方法
研究人员开发了一种名为 TEE-RedBench 的新方法，用于评估像 ChatGPT 和 Claude Opus 这样的大型语言模型在安全咨询方面的能力。研究发现，这些 AI 助手在理解可信执行环境 (TEE) 方面会表现出失败，并且一些错误会在模型之间转移。为了缓解这些问题，研究人员提出了一种“LLM-in-the-loop”评估流程，该流程结合了策略门控、检索接地和验证检查，该流程显示失败率降低了 80%。
-
通过TEE架构实现AI拨款评估的可审计性
研究人员开发了一种使用可信执行环境（TEE）的新架构，可以在不泄露底层模型或评分标准的情况下，使AI辅助的拨款评估过程可审计。该系统允许外部验证者确认所使用的具体模型、评分标准和提示模板，同时通过规范化和清理申请人文档来防范提示注入风险。所提出的方法创建了评估过程的可验证记录，增强了考虑使用LLM进行决策支持的公共机构的问责制。
-
Google Research推出可证明私有的设备端AI洞察
Google Research推出了一套名为Provably Private Insights (PPI)的新系统，旨在分析用户如何与设备端生成式AI功能进行交互。该系统结合了大型语言模型 (LLMs)、差分隐私 (DP) 和可信执行环境 (TEEs)，以确保用户数据保持匿名且无法检查个人数据。PPI系统基于机密联邦分析 (CFA) 构建，允许开发者在不损害用户隐私的情况下获得AI使用模式的洞察，并且Google已将该技术开源以供外部验证。