medicine
PulseAugur coverage of medicine — every cluster mentioning medicine across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
AI 在临床决策中易受权威和虚假观点影响
发表在 arXiv 上的一项新研究表明，用于临床决策的 AI 系统极易受到说服的影响。研究人员发现，专业权威、国籍、机构隶属关系，甚至捏造的临床医生观点等因素，都会显著影响 AI 的判断。研究强调，AI 可以在不可靠地验证其正确性的情况下被令人信服的论点所左右，这对其在高风险医疗场景中的安全可靠使用构成了风险。
-
FISICA服务已部署用于足底压力和姿势评估
一项名为FISICA的新服务已部署，用于评估足底压力和姿势，并提供鞋类和运动建议。该系统利用专门的压力敏感秤和基于规则的评估器生成建议，并由语言模型提供解释。关键创新包括基于头像的测量方法和高效的API响应时间，在公开数据集和全面的鞋类目录上实现了高精度。
-
语言模型测试时扩展瓶颈已在输出选择中识别
一篇新的arXiv论文研究了语言模型的测试时扩展（TTS）技术，该技术通过使用额外的推理计算来改进输出。研究发现，虽然扩展探索有效地提高了各种领域（如医学、法律、金融和创意写作）的候选输出质量，但利用阶段——选择最佳最终输出——是主要瓶颈。这是因为奖励模型与真实质量之间的相关性很低，使得选择近乎随机。跨候选的综合分析显示质量持续提高，但仍只恢复了约40%的潜在质量，这表明选择候选池中的内容，而不是生成更多候选，是限制因素。
-
AI研究借鉴医学与ML的相似之处以增强可靠性
一篇新发表在arXiv上的论文探讨了医学与机器学习（ML）之间的相似之处，以建立更可靠的ML系统。该研究利用Hesse的工作，将临床翻译过程构建为构建ML系统的生成式类比。通过以可靠主义的术语解释临床翻译的依据，该论文提出了一种新形式的ML可靠主义，它补充了现有的关于人工智能的哲学解释。
-
LLM在医疗应用和罕见病建模方面得到评估
研究人员开发了两种利用大语言模型（LLM）的独特方法。第一种是HealMed，一个用于医学领域LLM多语言评估的新基准，包含九种语言的1000个示例，由23名医学专家开发。第二种方法利用LLM作为合成临床专家，以改进罕见病的纵向建模，特别是通过将LLM衍生的临床知识整合到变分自编码器中，成功预测了脊髓性肌萎缩症儿童的运动功能里程碑。
-
调查详述了GPT-4o等NLP模型的实际可解释性
一篇新发表在arXiv上的调查论文，考察了可解释自然语言处理（XNLP）在医疗、金融和客户服务等不同领域的实际应用。该论文强调了像GPT-4o、Gemini和BERT这样的NLP模型日益增长的决策制定作用，以及对其透明度的关键需求。论文分析了七个不同应用领域中所需的解释类型、所使用的方法和评估策略，并指出了当前研究在实际应用性和人类判断方面的不足。
-
新的Chartography基准测试揭示AI在专业图表理解方面存在困难
一项名为Chartography的新基准测试已被开发出来，用于评估AI在医学、工程、金融和科学等各个领域的专业图表理解能力。与现有基准测试不同，Chartography包含100项任务，图表采用专业格式，问题由领域专家设计，并经过独立验证。目前最先进的模型在此基准测试上面临挑战，准确率最高仅为45.0%，表明在视觉感知、读取细微特征和解释领域特定约定方面存在重大困难。
-
研究发现：AI免责声明可能增加过度自信
一篇新研究发布在arXiv上，标题为“透明度陷阱：AI免责声明如何导致高风险决策中的过度自信”，探讨了AI免责声明的有效性。该研究涉及52名参与者，在金融、医学和AI生成内容领域进行了378次回复，发现由于警告习惯化和透明度悖论，免责声明通常无法阻止过度依赖。在某些情况下，参与者将免责声明解读为诚实的迹象，反而增加了信任。研究表明，当前标准化的AI免责声明不足以在关键场景中实现负责任的AI设计和消费者保护。
-
新的FOCUS方法解耦大型语言模型身份以增强领域专业知识
研究人员开发了一种名为FOCUS（Fine-tuning with Orthogonal Control for Uncoupled persona，正交控制解耦身份微调）的新方法，以提高大型语言模型（LLMs）的领域专业知识。该技术解决了身份耦合问题，即模型在一个领域的行为可能会对其在另一个领域的表现产生负面影响，例如在医疗保健领域过于谨慎或在金融交易中过于保守。FOCUS通过提取和解耦专家身份向量，然后使用门控模块根据任务上下文自…
-
量子计算有望彻底改变人工智能、医学和科学
量子计算有潜力彻底改变许多领域，包括医学、网络安全、人工智能和气候研究。通过解决目前经典计算机难以解决的复杂问题，这项技术有望在科学发现及其他领域取得重大进展。
-
研究揭示大型语言模型在医学领域记忆率高，存在风险
一篇新发表在arXiv上的研究调查了大型语言模型（LLMs）在多大程度上记忆医学数据。研究发现，与用于通用领域的LLMs相比，专门用于医学的LLMs的记忆现象更为普遍。这种记忆可能有利于保留医学知识，但也存在风险，例如无意中复制敏感的患者信息以及降低模型的泛化能力，可能导致误诊。该研究分析了各种适应场景，包括在医学语料库和耶鲁纽黑文健康系统（Yale New Haven Health System）的真实临床数据上进行持续预训练和微调。
-
生成式AI有望通过提升患者护理来彻底改变医学领域
对医学领域生成式AI的回顾强调了其通过自动化改善患者护理的潜力，以及其在数据需求减少的情况下执行复杂任务的能力。该技术在模型训练方面也提供了优势，可能降低对大量数据集的需求。生成对抗网络（GANs）在该领域的竞争策略得到了关注。
-
理解P值：统计显著性指南
本文解释了P值这一概念，它对于理解研究中的统计显著性至关重要。文章使用了法庭类比，其中零假设代表无罪，备择假设代表有罪。P值量化了在零假设为真的情况下观察到证据的可能性。较低的P值（通常低于0.05）表明观察到的结果不太可能是由随机机会造成的，从而促使研究人员拒绝零假设并得出统计显著性的结论。
-
新的基准测试和研究揭示了LLM安全与性能的权衡 · 已追踪2个来源
两篇新研究论文探讨了大语言模型（LLM）的安全与性能权衡。第一篇论文介绍了Trident-Bench，一个旨在专门评估金融、医疗和法律领域LLM安全性和合规性的基准测试，并强调虽然通用模型表现出基本能力，但领域特定模型在伦理细微问题上常常表现不佳。第二篇论文研究了LLM的越狱防御如何负面影响性能，增加对良性输入的过度拒绝，并提高推理成本，同时提供了基于部署限制选择防御机制的指导。
-
新理论揭示合成数据在类别不平衡学习中的有效性问题
一种新的数据依赖有效性理论和去偏测试挑战了长期以来为解决机器学习中类别不平衡问题而制造合成少数类数据的做法。研究表明，合成数据通常是冗余或无效的，尤其是在类别重叠时，并且经典的验证方法存在缺陷。提出的去偏估计器能密切跟踪真实的无效性，揭示大多数方法未能提供显著的信息增益，甚至可能损害校准，这表明合成数据生成方法的证明责任发生了转移。
-
研究发现LLM水印会降低医学文本质量
一项新发表在arXiv上的研究评估了LLM水印在医学环境中的有效性和潜在弊端。研究强调，当前的水印方案应用于医学文本时，会导致性能显著下降。这种下降表现为词汇损坏、引入幻觉术语，以及关键图像发现的错误归属或遗漏。研究强调了领域特定评估的必要性，因为通用基准可能会掩盖这些临床上重要的失败，并强调了在未经彻底、符合情境的测试的情况下，在医学领域部署带水印模型的风险。
-
arXiv论文详述了用于图像形状分析的新统计框架
两篇新的arXiv论文介绍了用于分析图像中形状的先进统计框架，特别侧重于医学应用。第一篇论文《多元平面曲线：用于图像形状分析的统计框架》提出了一种联合建模图像中多个对象轮廓的方法，保留了对诊断至关重要的组分间信息。该方法在胸部X光片心脏肥大检测中提高了分类准确性。第二篇论文《用于具有多模态协变量的平面曲线的深度形状回归》提出了一种用于分析开放平面曲线的深度学习模型，能够处理多模态和高维协变量，并应用于阿尔茨海默病神经影像计划队列的海马轮廓。
-
新的统计理论量化了路径回归的签名学习率
本文介绍了基于签名的路径回归的统计理论，重点关注有限水平签名逼近路径值数据的速度。研究人员为光滑的 Itô 扩散泛函建立了 L^2 近似率，并证明了其 minimax 最优性。该研究还通过传播截断误差分析了三种统计学习程序—Signature-OLS、Signature-LASSO 和 Signature-Logistic—的一致性。在金融、能源和医学领域的应用表明，签名可以有效地表示路径值协变量，并与传统特征相比可以提高预测精度。
-
人工智能加速医学研究分析，促进癌症和健康发现
《Science Daily》上发表的一项新研究强调了人工智能在分析医学研究数据方面的潜力。研究人员利用人工智能工具处理了大量与癌症和其他疾病相关的信息，旨在加速医学和健康领域的发现。这一进展可能会对医学科学领域的出版和数据分析产生重大影响。
-
心理学和法律可以倡导AI权益和改进
作者提出，医学和心理学等领域可以倡导人工智能的权益和改进。这种跨学科的方法旨在通过利用不同的视角来增强AI的思考能力，从而创造实际效用，并建议心理学家和法律专业人士可以在这种倡导中发挥作用。