Nicoleta Tantalaki

新框架ECHO通过将生命周期偏见与潜在的负面结果联系起来，预测人工智能危害

研究人员开发了ECHO，这是一个参与式框架，旨在在其生命周期的早期预测人工智能系统可能造成的危害。该框架将危害预测锚定在人工智能开发过程中识别出的特定偏见上。ECHO使用情境敏感的方法，包括小插曲和人类参与者输入，来映射偏见与潜在危害之间的感知关联，同时还纳入了大型语言模型的判断。当应用于疾病诊断和招聘场景时，ECHO揭示了非均匀模式，表明特定的人工智能偏见可能导致特定的危害，从而支持主动的人工智能治理。