pipeline
PulseAugur coverage of pipeline — every cluster mentioning pipeline across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Hugging Face 推出决策模型以实现结构化 AI 输出
Hugging Face 正在推出“决策模型”,这是一种新型模型,旨在直接输出结构化决策和概率,而不是生成自由文本。这些模型特别适用于路由客户支持工单或分类信息等任务,这些任务需要预定义的答案集。与可能难以遵守模式或需要复杂约束解码的传统 LLM 不同,决策模型经过优化,可以为已知选项分配概率,为特定的结构化任务提供了更可靠、更高效的方法。
-
MLOps系列探讨机器学习系统的生产化
本系列文章深入探讨了MLOps的复杂性,重点关注将机器学习系统投入生产的艺术。内容涵盖了MLOps成熟度模型、高级技术以及特定平台集成等多个方面。文章探讨了LLMOps、Kubernetes以及Azure、Google Cloud和AWS等云平台的主题,详细介绍了Amazon SageMaker、EKS和S3等服务。
-
语言模型构建引用式医疗保健软件知识图谱
研究人员开发了一种新颖的管道,使用语言模型代理来构建医疗保健软件采用情况的知识图谱,确保每个数据点都有其来源的逐字引用支持。该方法解决了验证网络上分散信息的挑战,旨在为买家提供同行机构软件使用和集成情况的可靠证据。该管道实现了高精度和高召回率,并通过置信度评分系统进一步提高了提取关系的准确性。
-
Hugging Face 工具详解:微调和 LoRA 指南
本文为使用 Hugging Face 的开发者提供了实用的指南。文章涵盖了 pipelines、auto classes 和 datasets 等关键概念,并详细解释了微调技术和 LoRA(低秩适应)方法。
-
开发者构建AI流程,从历年试卷生成考试题目
一位开发者正在构建一个系统,利用LLM从学校的历年试卷中提取和标记问题与学习目标,以生成考试题目。该原型涉及将PDF拆分为子问题项,使用小型模型生成新问题,并使用另一个独立模型来回答这些问题作为检查。开发者正在寻求关于科学计数法和表格的PDF提取、pgvector等检索方法、批量API和小模型规模化成本效益,以及AI生成评估项目的质量衡量方法的意见。
-
AI 协助管道故障分类,缩短问题解决时间
AI 工具可以通过分析日志和识别根本原因,显著加速管道故障的分类过程。与其花费一个小时来解读问题,AI 助手可以在几分钟内提供通俗易懂的摘要并建议潜在的修复方法。这种方法可以分阶段推出,首先从 AI 驱动的解释和分类开始,然后逐步过渡到在预定义的、可逆任务的保护措施内进行自动化操作。
-
AI训练数据管道:提取和准备生产日志
本文详细介绍了一种通过提取和处理生产日志中的数据来创建用于微调AI模型训练集的方法。它涵盖了匿名化技术、为指令微调格式化数据以及实施验证步骤以确保数据质量。目标是构建一个强大的数据管道,能够有效地为AI模型训练准备原始生产数据。
-
知识图谱指标可能反映管道而非主题:复制研究
一项复制尝试表明,从知识图谱中提取的结构化指标可能反映了提取管道的特征,而不是主题本身。作者通过为三个不同的领域构建知识图谱来检验这一假设:ASP.NET Core 中间件、SQL 查询优化和醋酸纤维素板生产。该实验旨在确定一个特定指标——先决概念密度——在这些不相关的学科中是否保持一致,这将表明其偏向于管道的设计而非实际的领域内容。
-
自动化机器学习再训练流水线设计指南
本文提供了构建自动化机器学习(ML)再训练流水线的技术指南。它详细介绍了如何应对延迟标签、数据验证、概念漂移和模型性能下降等挑战。该详解涵盖了持续集成/持续部署(CI/CD)、版本控制和编排工具等关键组件,以实现有效的流水线管理。
-
Scikit-learn Pipeline 特征工程速查表发布
本文提供了关于在 scikit-learn 的 Pipeline 中进行特征工程的速查表。它解释了将特征工程步骤纳入 Pipeline 如何确保每个步骤仅在训练数据上进行拟合。这种方法可以根据模型的真实性能对其进行更准确的评分。
-
人工智能优化天然气管道运营以提高效率和降低碳排放
人工智能驱动的优化正在被实施以增强天然气管道网络的运营。该技术旨在提高传输能力、确保供应可靠性,并实现更智能的调度以降低碳排放。
-
LLM提取审计跟踪:版本化模型和跟踪人工更正
第一篇文章讨论了对LLM提取进行版本化的重要性,以便准确地追溯错误。它强调存储API返回的确切模型标识符,而不仅仅是别名,并将解码参数(如temperature和max tokens)包含在版本戳中。第二篇文章详细介绍了如何为字段更正构建审计跟踪,重点关注捕获谁进行了更改、何时进行的以及他们查看了什么。它提出了一种结构化记录,包括稳定的审阅者ID、先前的值和来源,以及所审查内容的证据,并强调了数据完整性的仅追加方法。
-
AI Agent 发布流程通过状态机模式得到改进
一个用于文章发布的 AI Agent 在共享状态和恢复机制缺失的情况下,遇到了重复内容和发布失败的问题。该 Agent 会在中途崩溃,导致出现孤立的草稿和重复的发布尝试。为解决此问题,实施了状态机模式,将流程划分为具有原子性保证的独立阶段。每个阶段的进度和结果都会保存到清单文件中,确保即使 Agent 崩溃,也能从确切的失败点恢复,防止重复工作并确保流程的完整性。
-
LLM邮件审批需要强大的架构来防止漂移 · 跟踪4个来源
自动化工作流中LLM生成的邮件的核心问题不在于模型本身,而在于审批流程,如果管理不当,可能导致消息漂移。为防止这种情况,需要一个强大的架构,将审批视为正式合同,确保内容一旦被批准,就会被快照并保持不变。这种方法将草稿生成与最终交付分开,使用诸如`run_id`和`policy_version`之类的唯一标识符来保持可追溯性并防止重试更改已批准的消息。这种纪律对于审计、调试和确保一致性至关重要,尤其是在使用临时电子邮件服务进行测试时。
-
在 OpenShift AI 上构建的用于模型漂移检测的 MLOps 管道
本文详细介绍了使用 OpenShift AI 构建漂移检测管道的过程。OpenShift AI 是一个专为 MLOps 设计的平台。该过程涉及利用 Kubernetes 和 KServe 部署模型,然后自动化数据漂移(特别是概念漂移)的检测,以确保模型随时间的性能。
-
特征新鲜度:MLOps中被忽视的问题
文章强调特征新鲜度是MLOps一个关键但常被忽视的方面。文章认为,许多生产环境中的机器学习模型失败并非由于模型设计不佳,而是因为它们依赖的特征已过时。这个问题影响实时和批量处理管道,凸显了对健壮特征存储和监控的需求。
-
Databricks Auto Loader — 健壮数据管道指南
本文提供了使用 Databricks Auto Loader 构建健壮数据管道的全面指南。它侧重于实现诸如模式演进、漂移处理和隔离模式等基本功能,以防止管道故障。目的是确保即使在遇到意外数据更改时,也能实现持续可靠的数据摄取。
-
静默的数据管道故障比明显故障对AI的风险更大
作者认为,静默失效的数据管道比明显失效的数据管道更危险。一个发生故障并向用户发出警报的数据管道可以得到及时调查和纠正。相比之下,一个尽管出现错误但仍继续运行的数据管道可能导致损坏或不准确的数据被用于下游流程(例如AI模型训练),而没有任何问题的即时迹象。
-
Eugene Yan 详细介绍了 ML 管道和 MLOps 的稳健测试方法
Eugene Yan 的文章深入探讨了数据和机器学习管道的测试复杂性,强调了脆弱测试的挑战以及不同测试范围的重要性。他区分了传统的软件测试和机器学习测试,后者包括用于逻辑正确性的预训练检查和用于预期学习行为的训练后检查,以及模型评估。文章还涉及用于构建可复现管道的 MLOps 实践,强调数据验证、模型验证、监控以及使用 Docker 和 Kubernetes 等工具进行稳健部署。