SystemPromptIndex

新的AISPA框架审计AI系统提示以保护用户

一个名为AISPA的新框架已被开发出来，用于审计AI应用中的系统提示，以解决由于这些开发者配置的指令缺乏透明度而造成的关键信任和问责差距。该框架在八个以用户为中心的维度上评估系统提示。对88种商业AI产品中的3,249条指令进行的审计显示，虽然保护性指令很常见，但它们往往很肤浅，并且不利于用户利益的指令仍然普遍存在。研究还指出，随着时间的推移，系统提示的长度和保护性呈增长趋势，这表明AI开发越来越关注用户保护。