FUTURE-AI consortium

新的ETHOS框架增强了临床AI系统的伦理监督

研究人员开发了ETHOS，一个模块化伦理框架，旨在不改变其核心架构的情况下管理临床多智能体系统（MAS）。该框架充当元代理，通过确定性检查、上下文审查和伦理批评者将伦理要求转化为运行时监督。ETHOS旨在通过持续评估系统推理和输出来增强安全性、公平性、问责制、透明度和患者信任，识别伦理风险并抑制不安全响应。在肝病学决策支持MAS中得到验证，ETHOS通过检测不完整或不一致的证据，并在无法支持安全建议时增加弃权，从而提高了决策的可靠性。