研究人员开发了ETHOS,一个模块化伦理框架,旨在不改变其核心架构的情况下管理临床多智能体系统(MAS)。该框架充当元代理,通过确定性检查、上下文审查和伦理批评者将伦理要求转化为运行时监督。ETHOS旨在通过持续评估系统推理和输出来增强安全性、公平性、问责制、透明度和患者信任,识别伦理风险并抑制不安全响应。在肝病学决策支持MAS中得到验证,ETHOS通过检测不完整或不一致的证据,并在无法支持安全建议时增加弃权,从而提高了决策的可靠性。 AI
影响 提供了一种实用的、可审计的机制,用于将伦理治理嵌入临床AI系统,有可能增加医疗保健应用的信任度和安全性。
排序理由 该集群描述了一篇关于新型AI伦理框架的最新研究论文。
在 arXiv cs.MA (Multiagent) 阅读 →
- FUTURE-AI consortium
- hepatology
- multi-agent systems
- National Academy of Medicine
- World Health Organization
- Ethics and Trust through Hierarchical Oversight System
- Hugging Face
- large language models
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →