frmsaul

AI的“昂贵的循环问题”面临模型因自我生成数据而退化的风险

“昂贵的循环问题”描述了人工智能开发中的一种场景，即模型反复使用自身的输出来进行训练，导致质量下降，并可能失去对现实的认知。这种情况发生在人工智能系统生成数据，然后该数据被用于训练同一人工智能的后续版本时，形成了一个反馈循环。人工数据标注的高成本以及对模型持续改进的渴望加剧了这个问题，促使开发者转向自监督或自我生成数据训练方法。解决这个问题可能需要新颖的数据策选、验证方法，以及整合外部的、真实的反馈。