一个名为AISPA的新框架已被开发出来，用于系统地审计大型语言模型应用中使用的系统提示。研究人员分析了来自88种商业AI产品的3,249条指令，将其归类为对用户有保护作用或存在问题的指令。审计显示，不同开发者在提示设计上存在显著差异，有保护作用的指令很常见但通常比较肤浅。虽然系统提示总体上变得更长、更能保护用户，但对用户利益不利的有问题的指令在约40%的产品中仍然存在，并且常常与有保护作用的指令并存。研究结果强调了提高商业AI系统提示的透明度和监管的必要性。 AI
影响 强调了提高商业AI产品中系统提示的透明度和独立监管的必要性。
排序理由 学术论文，介绍新框架和审计结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
