EduZone

新框架评估K-12学生和教师大语言模型安全性

一个名为EduZone的新评估框架已被开发出来，用于评估大型语言模型（LLMs）在K-12教育环境中的安全性。该框架通过考虑学生和教师的互动、课程概念以及风险的详细分类（包括教育领域特有的风险），弥补了当前安全评估的不足。EduZone在不同的对话环境中生成对抗性互动，并根据大语言模型拒绝有害内容或提供安全帮助的能力进行评估，揭示了显著的漏洞，尤其是在动态的多轮对话中。