MedGuards

新的MedGuards系统增强了医疗领域LLM的安全性

研究人员开发了MedGuards，一个新颖的多个智能体系统，旨在通过可靠地检测和纠正医疗错误来增强大型语言模型（LLM）在医疗保健中的安全性。该框架将错误检测和纠正视为一种上下文学习任务，由专门的智能体识别、定位和修复错误。MedGuards利用置信度引导仲裁机制来解决智能体之间的分歧，并引入了关键词优先纠正分数（KPCS）以进行更全面的评估。在多语言医疗数据集上的实验显示出显著的改进，旨在促进LLM在临床环境中更安全的应用。