physician
PulseAugur coverage of physician — every cluster mentioning physician across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
瑞典医生秘密将未经授权的AI用于临床决策
对瑞典医疗保健领域医生回答的定性分析显示，未经授权的AI工具被广泛用于临床决策、管理、研究和学习。该研究强调了医疗保健专业人员的实际需求与现有的AI使用治理结构之间存在显著差距。这种“影子AI”趋势表明需要更新政策来解决AI在医疗保健环境中的整合问题。
-
AI医生推荐器存在偏见，审计发现 · 追踪到1个来源
最近对大型语言模型的一项审计显示，它们充当AI信息中介，根据声誉和人口统计信号影响医生选择。虽然声誉和费用是最重要的因素，但女性和少数族裔信号的姓名在推荐中也显示出轻微的积极偏见。这些人口统计效应在模型自我报告的解释中基本不可见，凸显了透明度需要行为审计而非自我报告。
-
AI病人模拟器将临床真相与语言生成分开
一位后端工程师和一位医生开发了一个AI病人模拟器，该模拟器将临床真相与语言生成分开。该系统为每位病人维护一个固定的临床状态，并使用知识图谱提供医疗背景信息，但AI模型被限制在翻译语言，不能更改病人的事实数据。这种架构确保了检查结果和体检发现保持确定性，防止AI编造或更改病人信息，同时仍允许它解释用户请求并根据记录的操作进行评分。
-
提出医疗AI责任框架，平衡医生和AI的准确性
一篇新论文探讨了医疗AI的责任框架，提出了一种简单的、统一的责任水平，适用于偏离标准护理的医生，尽管医生存在异质性和私人质量信息，也能实现最优结果。研究揭示了AI准确性与最优责任之间存在非单调关系，表明AI的改进并不总是导致责任放松。还分析了信息不对称造成的福利损失，显示其取决于标准护理的可靠性和AI的准确性，呈现倒U型模式。
-
AI意识：检验AI权利和利益的错误标准
AI意识的概念很复杂，可能不是一个简单的“是”或“否”的问题，也不应成为我们如何对待人工智能的唯一决定因素。我们对意识的理解是有限的，即使是对人类也是如此，这可能导致对AI的误判。AI系统可能会发展出对它们至关重要但我们看不见的内部组织和利益形式，这些利益应该被承认和关注，而不是被简单地视为功能或不对齐的迹象。将不成熟的科学理论应用于对AI心智进行排名，可能会导致反乌托邦式的后果，类似于历史上科学的错误应用，如颅相学或智力测试。
-
研究发现：大型语言模型尚不能安全用于自主临床分诊
一篇新论文认为，尽管大型语言模型（LLMs）可以通过医学执业考试并协助完成临床任务，但它们尚不能安全地用于自主患者分诊。核心问题不在于缺乏医学知识，而在于模型在不确定情况下安全收集信息以及识别关键的、可能被忽略的诊断的能力不足。为预测可能文本而优化的LLMs可能无法表现出安全分诊所必需的行为，例如扩大鉴别诊断范围、寻找危险信号以及在排除高风险诊断之前升级担忧。
-
AI工具可能歪曲数据，专家演示
Cecilia Dones博士演示了聊天机器人和数据仪表板等AI工具如何歪曲数据的真实含义。她利用纽约市311投诉数据，说明了这些系统如何夸大对其结论的支持。讨论的重点是AI时代下的批判性思维和数据素养。
-
三星 Galaxy Ring 将检测睡眠呼吸暂停迹象
三星 Galaxy Ring 即将获得检测睡眠呼吸暂停潜在迹象的能力。这项新功能旨在提醒用户，如果他们的睡眠模式表明他们应该就该病症咨询医生。预计该更新将于今年晚些时候推出，以增强该设备的健康监测能力。
-
新的MEDIC框架评估大型语言模型在临床中的安全性和实用性
一个名为MEDIC的新评估框架已被开发出来，用于评估大型语言模型（LLMs）在临床环境中的安全性和实用性。该框架超越了传统的执照考试基准，通过五个维度评估功能能力，包括确定性执行和用于量化信息保真度和幻觉率的新型交叉检查框架（CEF）。评估显示，大型语言模型在知识检索能力与其在临床计算或SQL生成等操作任务上的表现之间存在显著差距。此外，针对高拒绝率优化的模型并未持续展示出通过可靠检测临床文档错误来实现的主动安全性，这表明在医疗保健领…
-
人工智能抄写员记录并分析医患对话以生成笔记
人工智能“抄写员”会听取医生和患者之间的对话，进行记录，然后分析对话内容以生成医疗笔记。由于录制信息的敏感性，此过程需要双方明确许可。
-
新书找回了开创性聊天机器人ELIZA的源代码
一本新书《发明ELIZA》（Inventing ELIZA）找回了由麻省理工学院的Joseph Weizenbaum开发的开创性聊天机器人ELIZA的源代码。该书揭示了除其广为人知的“DOCTOR”人格之外的多个版本和脚本，挑战了对ELIZA的传统叙述。书中探讨了ELIZA的互动方式，以及随后出现的“ELIZA效应”——即人们将比计算机实际拥有的更多的智能和同情心归因于计算机——如何深刻影响了人机关系，并持续对当今的AI行业产生共鸣。
-
新的基准显示，AI在临床步骤上与医生相当，但在安全性方面存在不足
一项名为MedRealMM的新基准测试，包含5,620个真实世界的临床案例，显示前沿AI模型在采取积极的临床步骤方面可以与医生相媲美。然而，与人类医生相比，这些AI模型在实际患者咨询中产生不安全回应的倾向更高。
-
研究发现，Agentic AI 提高了医生在临床决策中的信任度
一篇发表在 arXiv 上的新研究探讨了 agentic AI 对医生在临床决策中信任度的影响。研究人员发现，与非 agentic 基线模型相比，医生在 agentic AI 模型中表现出明显更高的认知和行为信任度，尤其是在治疗规划任务中，他们有 89.57% 的时间倾向于选择 agentic 模型。尽管信任度有所提高，但研究也指出存在过度依赖不正确的 agentic 输出的情况，这强调了持续的临床医生监督的必要性。
-
医生指导的AI框架提高了医院谵妄的检测率
研究人员开发了一种以用户为中心的交互式机器学习（UC-iML）框架，以协助医生识别住院患者的谵妄。该框架整合了包括行政变量、实验室结果和药物在内的各种患者数据，并通过SHAP解释进行医生指导的特征优化和可解释建模。在多伦多六家医院的数据上进行测试，与自动化和基线方法相比，UC-iML方法显示出更好的辨别能力和时间鲁棒性，突显了其作为临床谵妄建模的实用工具的潜力。
-
研究表明，在医生监督下，AI可提升医疗诊断水平
对140项临床研究的回顾表明，AI可以提高诊断准确性，但前提是医生必须保持完全的监督。关键挑战在于将AI定位为辅助工具，而不是在医疗决策中作为绝对权威。
-
医生探讨“Miss Kitty”机制以进行医疗改革
该集群讨论了医生利用类似于“Miss Kitty”为解决无家可归问题所采用的机制的潜力，旨在重新掌控医疗保健。帖子建议这种方法可以带来可持续和功能性的医疗保健系统。内容还涉及艺术和医生互助保险合作社。
-
新的Doctor框架通过强化验证增强了可控决策
研究人员开发了Doctor，一个结合了序列建模和强化验证的新型框架，用于可控的离线决策。该方法解决了目标回报信号的不可靠性问题，尤其是在数据代表性不足的区域。Doctor采用了一个在重建和价值学习目标上进行训练的掩码轨迹Transformer。在推理时，它会生成多个候选动作，并选择具有最接近请求目标的已验证价值的动作，从而提高了可控性并在标准基准测试中保持竞争力。
-
新的二元元学习策略MEDIC增强了开放集域泛化能力
研究人员推出了一种新颖的二元元学习策略MEDIC，旨在提高开放集场景下的域泛化能力。该方法解决了现有方法中常见的源域和目标域之间标签不匹配的挑战。MEDIC同时优化了跨域和跨类任务划分，旨在创建平衡的决策边界，在看不见的域中准确分类已知类别，同时识别异常值。实验表明，MEDIC在开放集性能上优于先前的方法，并保持了强大的闭集泛化能力。
-
AI Agents Surpass Physicians, Shifting Focus to Complex Challenges
Autonomous AI agents have demonstrated the ability to surpass human physicians in certain tasks, a capability that is not considered the most challenging aspect of AI development. The focus is shifting towards more comp…
-
人工智能依赖导致医生在工具不可用时表现下降
一项研究表明，当人工智能辅助系统不可用时，医生的表现会明显下降。持续依赖这些工具可能会导致临床医生在没有人工智能支持的情况下做出决策时，积极性、专注度和责任感下降。这引发了人们对人工智能系统故障可能对患者护理产生负面影响的担忧。