Lanbo Shi

探索人机互补以实现人工智能安全

研究人员探索了人机互补的概念，以增强人工智能安全，特别是在评估复杂人工智能输出方面。他们开发了一个包含 3,957 个跨领域安全相关任务的大型数据集，并收集了 416 名人类评估者的判断。研究表明互补性具有潜力，结合人类和人工智能的判断可能比单独的任何一方产生更强的监督信号，但目前的辅助方法并未持续改善人类对人工智能错误的纠正。该研究强调互补性是一个可行的工程目标，但也承认实现它仍然是一个悬而未决的挑战。