MedGemma-1.5-4b-it

大型语言模型（LLM）照护角色的安全性和有用性得到审计

研究人员开发了一个框架，用于审计大型语言模型（LLM）在照护支持角色中的安全性。通过定义四个不同的角色——告知（Inform）、指导（Coach）、关联（Relate）和倾听（Listen），并针对来自在线痴呆症社区的真实查询进行测试，研究发现LLM被分配的角色对其安全状况有显著影响。人类评估显示，尽管更具指导性的角色表现出更高的互动风险，但它们被认为更有用和更值得信赖，存在一种权衡。该研究发布了一个模型响应数据集，以促进对更安全的L…