一篇新论文提出,领先的AI开发者应披露特定指标,以跟踪和保持先进AI系统中思维链(CoT)过程的可监控性。作者确定了与CoT访问、架构、质量和监控有效性相关的五个关键指标。对Anthropic、OpenAI和Google DeepMind当前实践的审计显示,虽然没有一个开发者完全披露所有指标,但每个指标都至少被这些公司之一报告过。该论文还建议进行独立的审计,提供比公开披露更深入的访问权限,以确保CoT的可监控性。 AI
影响 这项研究可能导致AI开发者的标准化透明度实践,从而改善对先进AI系统的外部监督。
排序理由 该集群包含一篇讨论AI安全和透明度机制的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →