AdversarialDebate

开发者构建 AI 审查引擎以确保独立的 LLM 意见

一位开发者创建了一个名为 AdversarialDebate 的开源引擎，以解决人工智能“第二意见”倾向于同意的问题。该引擎强制两个大型语言模型在进行辩论之前独立审查同一件制品。对跨越多个项目的 70 个拉取请求进行的测试表明，真正的独立性对于提高审查质量至关重要，而分歧可能比强制共识更有价值。该系统的架构确保一个模型的输出在两者都提交了初始审查之前对另一个模型不可见，这凸显了独立性是一种系统属性，而不是提示技巧。