实体
Stealing Reasoning Traces from Proprietary LLM APIs
Stealing Reasoning Traces from Proprietary LLM APIs
PulseAugur coverage of Stealing Reasoning Traces from Proprietary LLM APIs — every cluster mentioning Stealing Reasoning Traces from Proprietary LLM APIs across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
OpenAI 将中国公司 Moonshot AI 与模型推理提取尝试联系起来
OpenAI 已确认与中国公司 Moonshot AI 有关的行动者是旨在提取专有模型推理的活动的组织者。这项协调行动在 7 月份的两天内达到高峰，请求量高达 16,000 次，目的是窃取受保护的推理数据。虽然 OpenAI 成功阻止了该活动并加强了安全措施，但此次事件凸显了针对领先 AI 模型的对抗性蒸馏尝试的普遍趋势。
-
研究人员从专有LLM API中提取推理痕迹
研究人员开发了一种从专有大型语言模型（LLM）API中提取“推理痕迹”的方法。该技术使用户能够观察这些模型的内部决策过程，而这些过程通常由提供商保密。研究结果引发了对当前LLM API产品透明度和安全性的质疑。
-
AI 推理痕迹易受跨模型重放攻击
一篇新论文揭示，来自 OpenAI、Anthropic 和 Google 等主要 AI 提供商的加密推理痕迹并非安全边界。研究人员演示了这些痕迹可以在不同模型和会话之间重放，从而允许较弱的模型以明文形式揭示更强大模型的隐藏推理。这种漏洞对数据提取、代理系统的安全性以及模型切换的用户体验都有影响。