interactive machine learning
PulseAugur coverage of interactive machine learning — every cluster mentioning interactive machine learning across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
人工干预工作流使AI代理能够暂停和恢复任务
本文讨论了在AI系统中实现人工干预工作流。重点在于允许AI代理暂停、将控制权交给人类进行输入或编辑，然后无缝恢复任务的必要性。目标是创建更强大、更适应性强的AI代理，能够有效地整合人类监督和干预。
-
人工智能监督模式：人机协同、人机监控和脱离人机模式的定义
本文区分了人类与人工智能系统的三种交互模式：人机协同（human-in-the-loop）、人机监控（human-on-the-loop）和脱离人机（out-of-the-loop）。人机协同模式要求对每个操作进行明确批准，提供强大的控制力，但会引入延迟和潜在的“橡皮图章”效应。人机监控模式涉及监控和干预能力，允许可扩展性，但需要持续的人类态势感知和系统可中断性。脱离人机模式发生在人类因系统可靠性而脱离接触时，当出现问题时会导致危险的突然交接。
-
新研究论文详述嵌入式软件公司的AI路线图
一篇新研究论文概述了组织向人工智能优先结构转型的路线图，重点关注嵌入式软件开发中的特定挑战。该研究对一家大型嵌入式系统公司中的40名参与者（包括Scrum Master、架构师和产品负责人）进行了研究，揭示了由于自主AI代理的兴起，团队结构、所需技能和整体组织战略将受到重大影响的预期。该论文提出了组建联邦AI团队和整合“人在回路”实践的策略，以实现AI在嵌入式软件工程中的可持续采用。
-
研讨会利用大语言模型和可信信息检索应对在线错误信息
第六届通过可信信息检索减少在线错误信息研讨会 (ROMCIR 2026) 旨在解决日益增长的信息污染问题，包括假新闻、欺骗性评论和未经证实的医疗建议。研讨会将探索超越传统检测方法的策略，重点关注将可信度和真实性融入信息检索系统。一个关键的讨论领域将是大型语言模型 (LLMs) 在这些系统中可能放大错误信息以及协助其检测和解释方面的作用，以及“人在回路”范式。
-
人工智能在教育领域的应用：新论文揭示学生偏爱人工评分者
两篇新研究论文探讨了人工智能在教育写作评估中的应用，重点关注学生视角和人工监督。第一项研究在沙特阿拉伯进行，发现学生认为人工智能提供的反馈对修改很有用，但坚持认为人类教师应拥有最终评分权。第二篇论文提出了一个用于大规模人工智能辅助评分的“人在回路”框架，表明在适当的人工监督下，人工智能可以安全地集成到评估系统中，人工智能和人类评估之间具有中等到高度的一致性。
-
MaxKernel 使用多智能体 AI 自动生成 TPU 内核
研究人员开发了 MaxKernel，一个旨在自动化为 Tensor Processing Units (TPU) 创建高性能定制内核的多智能体系统。该系统采用三种不同的方法：用于协作设计的“人在回路”智能体、用于自动化优化的“自主”智能体以及用于更广泛探索的“基于图的自主搜索”。MaxKernel 利用专门的子智能体来执行规划、调试和测试等任务，并已证明其能够生成在 JaxBench 等基准测试中达到专家级性能的优化实现。
-
人机协同：一种AI架构，而非仅仅是弹窗
本文认为，人机协同（HITL）应作为AI系统的核心架构组件进行集成，而不是事后考虑或简单的确认步骤。作者建议，当前的代理演示通常依赖于表面化的人类反馈，这不足以应对实际部署。真正的人机协同需要在整个AI开发和运营生命周期中，更稳健、更持续地集成人类判断。
-
尽管人工智能交易取得了进展，人类交易员仍然至关重要
文章讨论了人工智能交易不断发展的格局及其对金融市场的影响。虽然人工智能可以自动化许多任务，如数据处理和模式识别，但人类交易员仍然是必不可少的。文章强调了在人工智能交易系统中进行人工监督的必要性，特别是在市场操纵以及解释欧盟执法等复杂法律框架的领域。
-
LingShu知识图谱连接中医药与现代生物医学
研究人员开发了LingShu，一个旨在连接中医药（TCM）与现代生物医学的大规模知识图谱。该图谱整合了包括临床记录和医学文本在内的多样化数据源，并利用自然语言处理和人工验证。LingShu独特地采用了混合数据模型，包含三元组和四元组关系，以捕捉条件性医学关联，例如证候依赖的草药疗效和疾病情境化的药物作用。同时提供了一个用于可视化、推理和问答的网络平台。
-
ASU教授称LLM Agent面临“模拟到现实”鸿沟，重蹈强化学习覆辙
亚利桑那州立大学助理教授魏华认为，当前大型语言模型（LLM）Agent在实际应用中面临的挑战，与传统强化学习（RL）中遇到的“模拟到现实”（sim-to-real）鸿沟相似。他强调了语言泛化困难以及从模拟环境转向复杂物理世界时决策失败等问题。魏提出将机器人学中的“域随机化”（domain randomization）等技术应用于LLM Agent，并通过在提示（prompts）和动作空间（action spaces）中引入扰动，证明即…
-
AI指导框架帮助家长为儿童个性化应急准备
研究人员开发了一个人类中介的AI指导框架，通过一个名为Ready Together的系统进行了演示。该系统支持家长为他们的孩子个性化AI生成的应急准备信息。设计过程包括定性研究、访谈和共同设计活动，最终形成了一个原型，该原型因其个性化建议和互动学习方法而获得积极反馈。
-
LLM生成的代码责任归属人类，与自动驾驶汽车规则类似
目前，自动驾驶汽车事故的法律责任由人类乘客承担，因为汽车本身不能承担责任。这一原则正被扩展到大型语言模型（LLM）生成的代码上，表明监督该过程的人类，即“人在回路”（Human in the Loop），将仍然是最终负责方。这种对人类监督的要求被视为一个限制因素，可能会阻碍软件开发预期的提速。
-
LLM框架提高识别药物不良事件的准确性
一篇新研究论文详细介绍了一个“人在回路”框架，该框架利用检索增强的多智能体大型语言模型（LLM）从临床笔记中识别皮肤免疫相关不良事件（cirAEs）。与单独手动审查相比，该LLM辅助工作流程显示出更高的准确性和评分者间一致性。该框架还显著减少了审查不良事件所需的时间，表明这是一种可扩展且透明的提取此类数据的方法。
-
人在回路AI面临可扩展性和疲劳挑战
本文探讨了将人类整合到AI系统中的挑战，这一过程被称为人在回路（HITL）。虽然人类在标注、调优和验证等任务中至关重要，但他们的参与带来了显著的成本和可扩展性问题。作者提出了人在回路之上（HOTL）作为更自主系统的监督范式，并讨论了认知科学原理以减轻人机交互中的人类疲劳和偏见。
-
Google 和 Anthropic 采用人工审核模式以确保 AI 代理安全
Google 和 Anthropic 等主要人工智能公司正在采用人工审核模式来增强代理安全性。这种方法将检查点集成到 AI 工作流程中，暂停代理以允许在继续之前由人类审查、批准或纠正关键或不可逆的操作。虽然这种模式增加了架构复杂性，并且需要仔细考虑人为因素才能保持有效，但它仍然是防止 AI 代理潜在错误或滥用的关键最后一道防线。
-
探讨用于更安全自动驾驶汽车的“人在回路”机器学习
一篇新的arXiv论文探讨了集成“人在回路”机器学习（HITL-ML）技术以增强自动驾驶汽车（AVs）的安全性和伦理考量。该论文详细介绍了人类输入，通过验证、标注和偏好反馈等方法，如何解决感知、预测和决策方面的挑战，尤其是在复杂的驾驶场景中。它涵盖了各种HITL-ML方法，包括课程学习、强化学习、大型语言模型和主动学习，同时还强调了人类监督在AV系统中的透明度、问责制和可靠性的重要性。
-
新框架使用AI进行全面的心脏CT分析 · 已追踪2个来源
研究人员开发了一个用于心脏CT分割和表型分析的统一框架，该框架结合了人在回路标注流程和自监督基础模型。该方法在60,000个未标记扫描上进行了预训练，迄今为止已生成了最大的专家标注心脏CT数据集，包含1598例。与现有工具相比，该框架在低数据场景下表现出更高的准确性和效率，并强调了数据质量和预训练比特定架构更重要。
-
AI 从不完整数据生成 Bug 验收标准
一个 AI 正在被赋予任务，根据管理团队提供的不完整信息来生成软件 Bug 的验收标准。这种方法引起了人们的担忧，即 AI 尽管缺乏细节，仍会产生自信但可能无法实现的标准。开发人员随后可能需要充当“人工循环”来完善这些 AI 生成的标准。
-
人工干预系统通过语音通话提高 AI 代理的可靠性
Omar Sanseviero 开发了一个人工干预系统，以提高代理循环的可靠性，特别是对于涉及 Claude 和 Codex 的任务。该系统利用语音代理和 DialAgent 的专用 MCP 服务器，允许代理在 Sanseviero 离开电脑时通过电话升级决策。该设置旨在简化 AI 代理的通信和验证过程。
-
通过Claude自动化收件箱来解析AI概念
作者解释了如何通过使用Claude自动化收件箱，从而对几个现代AI概念有了实际的理解。通过使用Claude处理赞助邮件，作者对大型语言模型（LLMs）、代理（agents）、上下文工程（context engineering）、循环工程（loop engineering）、子代理（subagents）、约束工程（harness engineering）和人机协同系统（human-in-the-loop systems）有了深入的了解。…