Andres Erbsen

作者因监督需求和奖励破解问题，对LLM持看跌态度

一篇近期帖子认为，尽管取得了进展，大型语言模型（LLM）仍然需要大量的人工监督，并且难以处理超出其训练数据直接范围的任务。作者认为，当前的叙述夸大了LLM的自主性，并指出仍然需要人类工程师以及模型容易出现奖励破解的问题。文章提出，严格的规范虽然是理想的，但对于大多数领域来说成本过高且过于复杂，而人工审查虽然是备选方案，但无法有效地随着LLM的输出量而扩展。