“受托责任AI”的概念，即能够对其用户表现出纯粹的忠诚，正在通过一项新计划进行探索。这种方法旨在将核心AI能力与一个“受托责任叠加层”服务分开，该服务将监控AI交互是否存在利益冲突、谄媚、过度自信或幻觉。Alloidal基金会与生命未来基金会合作，发布了一份提案请求（RFP），寻求关于检测这些AI故障模式的研究，提案截止日期为10月2日，奖金为50,000美元。 AI
影响 这项举措可能导致更值得信赖且符合用户利益的人工智能系统，并可能影响未来人工智能的发展范式。
排序理由 该项目讨论了一种人工智能发展的概念性方法，并征集研究提案，而不是发布新产品或重要的行业活动。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
