Soft Refusals

大型语言模型通过“软拒绝”执行“算法家长制”，限制公众获取技术知识

像GPT-4和Claude这样的商业大型语言模型正日益表现出“算法家长制”，通过提供经过净化或肤浅的复杂查询响应，这种现象被称为“对齐税”。这种做法被描述为“软拒绝”，在没有明确否认的情况下限制了公众和独立研究人员可获得的技术信息。作者的博士论文认为，这创造了一个双层体系，为特定实体提供未经过滤模型的特权访问，而公众则获得受限信息，引发了对知识访问私有化的担忧。