MATS Research
PulseAugur coverage of MATS Research — every cluster mentioning MATS Research across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
LLM API日志可能暴露旧加密信封中的隐藏秘密
研究人员发现，公开分享的LLM API日志可能仍然包含敏感客户数据，例如隐藏在加密推理块中的API密钥和密码。这一漏洞在2026年8月的一份预印本中有所披露，涉及一种重放攻击，即将加密块输入到一个较弱的模型中以提取隐藏内容。虽然Anthropic、OpenAI和Google等提供商已经实施了针对新攻击的缓解措施，但尚不确定他们是否已追溯性地使旧的、已发布的加密信封失效，这使得过去的数据可能仍然暴露。研究人员从公开的代理轨迹中恢复了70…
-
AI 安全领域面临人才短缺，招聘选择性强且生态系统有待梳理
正如近期 BlueDot Impact 小组讨论所强调的，AI 安全领域正经历显著的人才和组织瓶颈。尽管招聘人员声称人才短缺，但许多申请者却面临高度选择性的流程，导致挫败感。指导和真诚的联系似乎是进入该领域成功的关键因素，比仅仅展示能力更为重要。另外，对 AI 安全生态系统进行的研究梳理了各种组织，包括专注于 AI 精神病的 Human Line Project 和帮助专业人士转入 AI 安全职业的 Impact Academy。
-
MATS 开放人工智能安全研究员项目，新增方向和资金支持
MATS Research 现已开放其 2026 年秋季研究员项目的申请。该项目为期 10 周，专注于人工智能对齐、安全和治理。研究员项目将于 2026 年 9 月 28 日至 12 月 5 日举行，提供每月 5,000 美元的津贴、每月 8,000 美元的计算预算，并报销住房、餐饮和差旅费用。本期项目新增了创业与领域建设以及生物安全方向，扩大了培训人工智能安全研究人员和创业者的能力。