check-tdd-red.py

AI 代理需要强大、独立验证的关卡来确保可信度

作者讨论了为 AI 代理创建可信评估关卡的挑战，并强调关卡的力量取决于攻击它的想象力。识别出的一个关键失效模式是，当关卡的评估由生成工作的系统本身执行时，会导致缺乏真正的监督。该帖子提出了三种加强这些关卡的方法：对测试驱动开发（TDD）的失败进行分类，以区分产品问题和测试错误；引入独立的裁判在新的环境中重新验证工作；并确保裁判的裁决是咨询性的，最终的退出代码仍然是进展的最终门槛。