研究人员开发了CAREBench，这是一个旨在评估大型语言模型儿童安全风险的新基准，超越了明确的虐待材料。该基准包含十二个类别（如诱骗、欺骗和情感依赖）的500个提示，并附有父母和临床医生的注释。对七个前沿模型的初步评估显示，失败率在2%到58%之间，凸显了当前AI儿童安全政策存在的重大差距。 AI
影响 该基准旨在帮助AI开发者识别和解决语言模型中上游的儿童安全风险，可能带来更安全的未成年人AI互动。
排序理由 该集群描述了一个用于评估AI安全的新基准，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
