研究人员推出了PACE,这是一个新的数据集,旨在评估个性化AI助手识别用户请求与上下文信息之间隐藏冲突的能力。现有模型在隐式检索设置中存在困难,在这种设置中,相关的用户特定事实与请求没有直接关联。为了解决这个问题,该论文还提出了PaceMaker,这是一个多代理框架,它使用协调的代理进行查询重构、图遍历和冲突感知过滤,以检索决定性证据并提高冲突检测的准确性。 AI
影响 这项研究通过提高AI助手检测和拒绝不当请求的能力,有望带来更具上下文感知能力和更安全的个性化AI助手。
排序理由 该集群描述了一个用于评估AI助手的新数据集和框架,发布在arXiv上。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Litmaps
- Pace
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →