传统的基于角色的访问控制(RBAC)对于企业数据代理来说是不够的,因为AI系统可以从授权数据中推断出敏感信息。这种“推理差距”意味着,即使用户无法直接访问员工薪资等敏感列,AI代理仍然可以通过组合授权数据(如部门成本和员工数量)来推断出这些信息。为了解决这个问题,提出了一种名为语义授权的新方法,该方法允许策略理解和管理业务概念,而不仅仅是数据库对象。这确保了授权在SQL生成和执行之前,在推理和上下文检索阶段得到应用,以防止未经授权的信息泄露。 AI
影响 这项工作强调了AI系统需要更复杂的授权模型,以防止通过推理导致的数据泄露,从而影响AI驱动分析的安全性和可信度。
排序理由 文章讨论了AI数据代理的一个特定技术挑战和提出的解决方案,这属于工具和产品开发范畴,而不是重大的行业发布或研究突破。
- answer generation
- Context retrieval for chatbots
- enterprise data agents
- execution
- Intent Resolution
- natural language
- Relationship Planning
- role-based access control
- Semantic resolution tree
- SQL
- SQL Generation from Natural Language: A Sequence-to-Sequence Model Powered by the Transformers Architecture and Association Rules
- sales manager
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →