Acsmithia

开发者在可靠性方面将大语言模型排除在AI审计判决之外

一位开发者正在构建一个AI系统，用于根据运动医学指南审计健身训练计划，但有意将大语言模型排除在最终判决过程之外。该系统使用大语言模型从自由格式文本（如运动参数）中提取结构化数据，但依赖确定性的Python代码进行实际的基于规则的判断。这种分离至关重要，因为大语言模型的输出可能是不确定且不可审计的，这对于需要可验证证据的审计工具来说是不可接受的。开发者强调，主要挑战在于维护这个界限，因为当概率性的大语言模型推理渗入确定性代码区域时，错误时常发生。