interactive machine learning
PulseAugur coverage of interactive machine learning — every cluster mentioning interactive machine learning across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
LingShu知识图谱连接中医药与现代生物医学
研究人员开发了LingShu，一个旨在连接中医药（TCM）与现代生物医学的大规模知识图谱。该图谱整合了包括临床记录和医学文本在内的多样化数据源，并利用自然语言处理和人工验证。LingShu独特地采用了混合数据模型，包含三元组和四元组关系，以捕捉条件性医学关联，例如证候依赖的草药疗效和疾病情境化的药物作用。同时提供了一个用于可视化、推理和问答的网络平台。
-
ASU教授称LLM Agent面临“模拟到现实”鸿沟，重蹈强化学习覆辙
亚利桑那州立大学助理教授魏华认为，当前大型语言模型（LLM）Agent在实际应用中面临的挑战，与传统强化学习（RL）中遇到的“模拟到现实”（sim-to-real）鸿沟相似。他强调了语言泛化困难以及从模拟环境转向复杂物理世界时决策失败等问题。魏提出将机器人学中的“域随机化”（domain randomization）等技术应用于LLM Agent，并通过在提示（prompts）和动作空间（action spaces）中引入扰动，证明即…
-
AI指导框架帮助家长为儿童个性化应急准备
研究人员开发了一个人类中介的AI指导框架，通过一个名为Ready Together的系统进行了演示。该系统支持家长为他们的孩子个性化AI生成的应急准备信息。设计过程包括定性研究、访谈和共同设计活动，最终形成了一个原型，该原型因其个性化建议和互动学习方法而获得积极反馈。
-
LLM生成的代码责任归属人类，与自动驾驶汽车规则类似
目前，自动驾驶汽车事故的法律责任由人类乘客承担，因为汽车本身不能承担责任。这一原则正被扩展到大型语言模型（LLM）生成的代码上，表明监督该过程的人类，即“人在回路”（Human in the Loop），将仍然是最终负责方。这种对人类监督的要求被视为一个限制因素，可能会阻碍软件开发预期的提速。
-
LLM框架提高识别药物不良事件的准确性
一篇新研究论文详细介绍了一个“人在回路”框架，该框架利用检索增强的多智能体大型语言模型（LLM）从临床笔记中识别皮肤免疫相关不良事件（cirAEs）。与单独手动审查相比，该LLM辅助工作流程显示出更高的准确性和评分者间一致性。该框架还显著减少了审查不良事件所需的时间，表明这是一种可扩展且透明的提取此类数据的方法。
-
人在回路AI面临可扩展性和疲劳挑战
本文探讨了将人类整合到AI系统中的挑战，这一过程被称为人在回路（HITL）。虽然人类在标注、调优和验证等任务中至关重要，但他们的参与带来了显著的成本和可扩展性问题。作者提出了人在回路之上（HOTL）作为更自主系统的监督范式，并讨论了认知科学原理以减轻人机交互中的人类疲劳和偏见。
-
Google 和 Anthropic 采用人工审核模式以确保 AI 代理安全
Google 和 Anthropic 等主要人工智能公司正在采用人工审核模式来增强代理安全性。这种方法将检查点集成到 AI 工作流程中，暂停代理以允许在继续之前由人类审查、批准或纠正关键或不可逆的操作。虽然这种模式增加了架构复杂性，并且需要仔细考虑人为因素才能保持有效，但它仍然是防止 AI 代理潜在错误或滥用的关键最后一道防线。
-
探讨用于更安全自动驾驶汽车的“人在回路”机器学习
一篇新的arXiv论文探讨了集成“人在回路”机器学习（HITL-ML）技术以增强自动驾驶汽车（AVs）的安全性和伦理考量。该论文详细介绍了人类输入，通过验证、标注和偏好反馈等方法，如何解决感知、预测和决策方面的挑战，尤其是在复杂的驾驶场景中。它涵盖了各种HITL-ML方法，包括课程学习、强化学习、大型语言模型和主动学习，同时还强调了人类监督在AV系统中的透明度、问责制和可靠性的重要性。
-
新框架使用AI进行全面的心脏CT分析 · 已追踪2个来源
研究人员开发了一个用于心脏CT分割和表型分析的统一框架，该框架结合了人在回路标注流程和自监督基础模型。该方法在60,000个未标记扫描上进行了预训练，迄今为止已生成了最大的专家标注心脏CT数据集，包含1598例。与现有工具相比，该框架在低数据场景下表现出更高的准确性和效率，并强调了数据质量和预训练比特定架构更重要。
-
AI 从不完整数据生成 Bug 验收标准
一个 AI 正在被赋予任务，根据管理团队提供的不完整信息来生成软件 Bug 的验收标准。这种方法引起了人们的担忧，即 AI 尽管缺乏细节，仍会产生自信但可能无法实现的标准。开发人员随后可能需要充当“人工循环”来完善这些 AI 生成的标准。
-
人工干预系统通过语音通话提高 AI 代理的可靠性
Omar Sanseviero 开发了一个人工干预系统，以提高代理循环的可靠性，特别是对于涉及 Claude 和 Codex 的任务。该系统利用语音代理和 DialAgent 的专用 MCP 服务器，允许代理在 Sanseviero 离开电脑时通过电话升级决策。该设置旨在简化 AI 代理的通信和验证过程。
-
通过Claude自动化收件箱来解析AI概念
作者解释了如何通过使用Claude自动化收件箱，从而对几个现代AI概念有了实际的理解。通过使用Claude处理赞助邮件，作者对大型语言模型（LLMs）、代理（agents）、上下文工程（context engineering）、循环工程（loop engineering）、子代理（subagents）、约束工程（harness engineering）和人机协同系统（human-in-the-loop systems）有了深入的了解。…
-
AI 安全中的人工监督常因自动化偏见而失败
AI 安全中的人工监督常常无效，因为它会产生虚假的安全感，而未能真正防止错误。虽然审批关卡可以减少 AI 提出的问题操作数量，但由于自动化偏见和在时间压力下倾向于橡皮图章式地批准建议，人工干预的成功率仍然很低。通过人工监督机制实现的真正 AI 安全改进仅在错误后果严重且人类能在给定时间内实际检测并纠正错误时才会发生，这需要为有效监督进行特定的设计考量。
-
Reddit 用户为 AI 模型调优寻求本地语音标注工具
一位 r/MachineLearning 版块的用户正在寻求语音标注工具的推荐。他们特别寻找支持“人在回路”流程的平台，该流程允许自动转录，然后进行手动校正和模型微调。用户的主要要求是本地可安装的平台，而不是在线服务。
-
人在回路（Human-in-the-loop）系统未能成为安全网，导致“警报疲劳”
人在回路（Human-in-the-loop）系统常被视为一种安全措施，但实际上，它们可能导致“警报疲劳”，类似于过度劳累的急诊室或被迫不断监控和干预的自动驾驶汽车驾驶员。这可能导致开发人员因工作量巨大而对关键警报变得麻木，就像开发人员在大量工作中不经彻底审查就批准重大代码更改一样。核心问题在于系统设计的失败，人类成为了瓶颈，而不是真正的保障。
-
新贝叶斯优化框架通过专家输入增强生物工艺开发
研究人员开发了一个增强的“人在回路”贝叶斯优化框架，称为帕累托前沿引导采样（PFGS）。该框架允许领域专家通过将高斯过程代理派生出的量重新表述为多目标优化问题来交互式地选择最优候选者。该系统现在通过考虑满足规格限制的概率来纳入约束优化，并通过估计输入扰动下的性能下降来纳入鲁棒优化。扩展的PFGS框架在中国仓鼠卵巢（CHO）细胞培养模拟器上进行了演示，成功识别了高性能、可行且对扰动具有弹性的操作条件。
-
新基准和方法应对 AI 幻觉
研究人员正在开发新方法来对抗 AI 模型中的幻觉。MedBench v5 为临床 AI 提供了一个动态的、面向过程的基准，专注于评估特定技能和检测幻觉传播。另外，Grad Detect 在推理过程中使用梯度分析来预测幻觉，其表现优于其他方法。另一种方法是使用多模型共识，其中不同 LLM 之间的同意信号表示更可靠的答案，并将分歧标记出来以供审查。
-
Cory Doctorow 的 AI 观点引发关于人类角色的辩论
Cory Doctorow 因其关于人类在 AI 中作用的观点而受到批评，特别是他关于“人机协作”（human-in-the-loop）概念的立场。批评者认为他的方法是挑衅而非提供解决方案，将他的想法比作“反向半人马”和“enshitification”。尽管受到批评，他挑衅性的风格被认为有助于激发围绕 AI 监管的讨论。
-
LLM辅助系统通过自然语言交互增强工业规划
一篇新论文介绍了一个混合系统，该系统结合了满足模理论（SMT）规划器和大型语言模型（LLM），用于工业自动化规划。该系统旨在提高规划器反馈的可解释性和知识模型的适应性。LLM层促进自然语言交互、解释和知识模型适应，并由人类监督确保正式规划的正确性。
-
论文称“人类清洗”是误导性人工智能监督声明的术语
一篇新论文认为，“人工干预”（human in the loop）这个常用短语经常被误用，暗示人工智能安全，而实际上它掩盖了关键流程和结果。这种做法被称为“人类清洗”（humanwashing），类似于“漂绿”（greenwashing），用于在没有真正问责的情况下让人工智能系统看起来更受欢迎。作者认为，不加区分地使用“循环”隐喻阻碍了对人工智能决策中人工监督的真正理解。