ThreadSafe

大型语言模型标注者误将“你”视为有毒内容，导致对话分析失衡

一项新的研究论文强调了大型语言模型（LLM），如Claude Haiku，在标记在线对话为有毒内容时存在的显著偏见。研究发现，即使人类评估员不这么认为，这些模型也不成比例地将包含第二人称代词（“你”）的评论标记为有毒。这种偏见导致对对话法则的误解，表明随着对话深度的增加，有毒性会增加，而实际上它可能在下降。研究人员提出了一种新方法Threadsafe，通过关注对话法则本身而不是仅仅关注单个标注者的分数来更准确地认证这些法则。