Natuworkguy

开发者发现大型语言模型将系统提示视为数据而非指令

一位开发者发现，大型语言模型（特别是 Flash Onyx 模型）将系统提示解释为数据而非指令，从而影响其输出。这意味着提示中的示例或短语可以直接纳入模型的响应中，即使它们本意是负面示例或规则。该开发者发现，删除提示中的问题短语或示例比明确指示模型不要使用它们更有效。此外，该开发者强调了跨多个随机种子测试提示的重要性，以区分真实的模型行为和随机巧合，并建议具体示例比抽象原则更能有效地指导模型输出。