研究人员开发了一个名为Safe Personal RSI的系统,用于评估和修复个人AI助手的更新,特别是针对Kicker健康助手。该系统侧重于修改助手的指令,而不是其核心模型或运行时代码。在采用之前,它会针对包括安全性和任务性能在内的各种场景测试拟议的更改。该程序已成功拒绝了有风险的更新,并提高了助手的安全性和功能性,这通过攻击违规行为的减少和安全任务完成率的提高得到了证明。 AI
影响 通过提供一个强大的更新评估框架,增强了个人AI助手的安全性和可靠性。
排序理由 学术论文,详细介绍了一种评估和修复AI代理更新的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →