Fiduciary Overlays

通过新的研究RFP探索受托责任AI概念

“受托责任AI”的概念，即能够对其用户表现出纯粹的忠诚，正在通过一项新计划进行探索。这种方法旨在将核心AI能力与一个“受托责任叠加层”服务分开，该服务将监控AI交互是否存在利益冲突、谄媚、过度自信或幻觉。Alloidal基金会与生命未来基金会合作，发布了一份提案请求（RFP），寻求关于检测这些AI故障模式的研究，提案截止日期为10月2日，奖金为50,000美元。