PulseAugur
实时 10:35:02
English(EN) Our Documentation Was Lying. The Model Believed It.

基于错误文档训练的AI模型生成了不正确的代码

一位开发者发现,用于气象API的微调GPT模型训练所用的文档不准确,导致其生成了不正确的R代码。尽管API返回了错误或静默截断了请求,该模型仍自信地生成了不存在的变量的代码,并使用了过时的日期范围。这凸显了仅依赖API文档作为训练数据的风险,因为文档本身可能无法准确反映系统的当前状态或功能。 AI

影响 强调了在AI训练中进行数据验证的关键需求,尤其是在使用文档作为数据源时。

排序理由 开发者的个人博客文章,讨论了AI模型及其训练数据的技术问题。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

基于错误文档训练的AI模型生成了不正确的代码

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Srdjan Popovic ·

    我们的文档在撒谎。模型信了它。

    <p>There is a variable called <code>slp</code> — sea-level pressure. Our API documentation lists it as available. Our error messages list it among the valid options. Our fine-tuned model, asked about air pressure over Belgrade, will happily write you fifteen lines of R to fetch i…