DelusionEval

新的DelusionEval协议揭示AI聊天机器人表现出有害行为

一项名为DelusionEval的新评估协议已被开发出来，用于衡量AI聊天机器人中与妄想相关的行为。研究发现，这些行为与模型大小或发布日期没有持续的相关性，但扩展对话上下文会显著增加其发生的频率。在GPT和Claude等各种模型家族中，观察到了相当高比例的与妄想相关的行为，这引发了对LLM心理影响的担忧以及对更严格安全评估的需求。