Customer Identity Access Management
PulseAugur coverage of Customer Identity Access Management — every cluster mentioning Customer Identity Access Management across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
LLM工具调用通过执行收据进行调试
本文提出了一种通过将每次调用视为带有执行收据的事务来调试大型语言模型（LLM）工具调用的系统。该收据存储在工具适配器中，包含运行ID、工具名称、状态、开始时间、持续时间和输出摘要等最少数据，而不是完整的日志或提示。这种方法旨在提高可追溯性和调试能力，同时不增加成本或噪音，特别是对于需要幂等性以防止重复的操作。
-
AI需要明确的含义和信任才能处理企业数据
AI代理需要比基本模式信息更多的信息才能可靠地解释企业数据。数据模型必须明确传达含义、结构、关系、使用规则和信任因素，以便AI系统能够理解超越简单列类型的上下文。仅仅为列添加描述是不够的；更健健的方法包括定义具有清晰业务术语、聚合规则和源映射的显式指标，以确保AI能够准确地检索和分析数据。
-
特征存储解决了机器学习训练-服务漂移和目标泄露问题
特征存储对于生产环境的机器学习至关重要，它解决了训练和提供服务环境之间特征定义漂移的关键问题。这种漂移会悄无声息地降低模型性能，尤其是在高风险预测场景下，因为模型是在一个数据分布上训练的，却在另一个数据分布上进行评分。为了确保时间点正确性，特征存储提供了历史特征值，从而防止目标泄露并保持模型完整性。
-
LLM运维：检测评估漂移并跟踪客户成本
作者讨论了管理LLM应用的两个常见挑战：评估集漂移和按客户成本报告。对于评估集漂移，他们建议在嵌入上使用最大均值差异（MMD）来检测评估数据集何时不再代表生产数据。对于成本报告，他们建议利用OpenTelemetry baggage在服务之间传播客户ID，避免昂贵的管道重新架构。