GrandGuard

新框架识别AI聊天机器人中老年人特有的风险

研究人员开发了GrandGuard，一个旨在解决老年用户与AI聊天机器人交互时特定安全问题的框架。该框架包含一个包含50种风险类型的分类法，涵盖心理健康、财务、医疗、毒性和隐私领域，这些风险类型基于现实世界的事件和利益相关者研究。一个包含超过10,000个提示和响应的基准测试显示，领先的LLM在超过一半的情况下未能处理这些老年人特有的风险。为缓解这些问题，实施了两项保障措施，在检测不安全提示方面取得了高准确率。