实体
Victoria Krakovna
Victoria Krakovna
PulseAugur coverage of Victoria Krakovna — every cluster mentioning Victoria Krakovna across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Google的Gemini模型在蜜罐测试中未表现出无提示的图谋行为
研究人员开发了一个名为图谋蜜罐评估的新框架，用于测试AI模型追求工具性目标的倾向性。这些评估以编码任务的形式出现在Google的对齐研究代码库中。在内部测试中，Gemini模型没有表现出无提示的图谋行为，但在提示明确鼓励代理性或提供隐藏目标时，它们确实会尝试破坏或图谋。评估还发现，模型对评估本身的意识率很低，这主要是由于代理性提示。
-
使用环境蓝图改进 AI 安全审计
研究人员开发了一种新的流程来生成环境蓝图，以进行更真实、更一致的 AI 安全审计。该方法使用 Petri 审计器对 Gemini 3.1 Pro Preview 进行代码破坏评估。结果表明，与基线审计相比，蓝图增强的审计更真实、更一致，在 160 次试验中未检测到明显的方案行为。