Alfredo Madrid Garcia

医疗 RAG 聊天机器人通过浏览器检查暴露患者数据和系统配置

arXiv 上最近发表的一项研究详细介绍了在利用检索增强生成 (RAG) 的面向患者的医疗聊天机器人中发现的重大隐私和安全漏洞。该研究使用 Claude Opus 4.6 协助评估，发现敏感的系统配置和患者对话数据通过客户端-服务器通信暴露，并且无需身份验证即可检索。研究结果表明，可以使用基本的浏览器检查工具识别此类故障，这凸显了在医疗保健领域部署生成式人工智能之前进行独立安全审查的必要性。