Kaixuan Wang

新基准测试揭示大型语言模型在减害信息方面存在安全风险

一项名为HarmReduction的新基准测试已被开发出来，用于评估大型语言模型（LLMs）在为药物使用者提供减害信息的准确性和安全性。该基准测试包含2,160个问答证据对，涵盖三个任务：评估安全边界、提供定量数据以及推断多物质使用风险。初步结果表明，当前最先进的大型语言模型在准确性方面存在困难，并且可能对寻求此类敏感信息的用户构成重大的安全风险。