一种名为“宪法式提示”的新提示技术已被开发出来，用于提高大型语言模型输出的安全性和合规性。该方法包括一个三步过程：首先，模型生成一个草稿响应；其次，它根据预定义的规则或原则对其自身草稿进行批评；第三，它根据批评意见修改草稿。这种方法确保反馈是具体的、可审计的，侧重于命名的违规行为而非一般的质量改进，并且可以迭代以获得更稳健的结果。 AI
影响 通过使模型能够根据既定原则进行自我纠正，增强了大型语言模型的可靠性。
排序理由 描述了一种改进大型语言模型输出质量和安全性的新方法。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>A model's <em>first</em> answer isn't always its best-behaved one. Ask it something that touches safety, health, law, or brand policy and the raw draft can quietly break a rule you care about — prescribe a dose, hand over an illegal how-to, invent a statistic, slip into a cond…