在医疗保健和金融服务等事关重大的行业中,自信地提供错误答案的AI系统比根本不提供答案更危险。PracticeVantage Consulting的首席执行官Murali Rajendran提倡构建“故障关闭”(fail-closed)的AI系统,在不确定时拒绝回答,而不是猜测。这种方法,以一个不提供未经核实数据的医疗保健平台为例,旨在通过确保AI提供的信息是可靠的来建立用户信任。 AI
影响 这一观点表明,在关键应用中,AI开发正朝着优先考虑可靠性和信任而非持续输出的方向转变。
排序理由 该条目是行业高管关于AI安全原则的观点文章,而非主要发布或事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →