Trust
PulseAugur coverage of Trust — every cluster mentioning Trust across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
Interface designs for AI health information tools will evolve to actively promote critical evaluation by users within 1 year.
A recent study indicates that over-reliance on AI for health information can lead to increased trust in incorrect outputs, and simple text highlighting is insufficient to mitigate this. This suggests a market need and a research direction for developing more sophisticated interface designs that encourage users to critically assess the AI-generated information.
The 'TRUST' acronym is being actively reused across distinct AI research domains, indicating a potential trend in naming conventions.
Multiple distinct research efforts have independently developed frameworks or systems named 'TRUST' within the last two weeks. These span areas like counterfactual explanations, ultrasound video analysis for trauma recognition, and temporal session-based recommendations. This repeated use suggests a possible trend or a desirable acronym for AI system naming.
AI systems incorporating human-in-the-loop feedback will see increased adoption for critical applications within 6 months.
The cluster evidence highlights the critical need for human oversight to combat AI hallucinations and build trust, particularly in sensitive areas like security vulnerability scanning. As systems are developed that systematically incorporate expert corrections, we can expect a push towards their deployment in domains where accuracy and reliability are paramount.
-
人工智能在医学中的可解释性面临哲学批判 · 跟踪 3 个来源
一篇新论文探讨了医学人工智能中可解释性的哲学基础，认为当前可解释人工智能 (XAI) 的方法忽略了科学和医学哲学中的关键见解。该研究强调，在临床决策中，需要将因果关系、信任和认识论充分性整合到 XAI 系统中。另一篇相关论文质疑了不透明科学模型的事后解释的可靠性，指出忠实性和可靠性检查不能保证模型准确地反映潜在现象。
-
人工干预系统可对抗 AI 幻觉并建立信任
大型语言模型可能不稳定且错误地自信，导致信任丧失，并使其在安全漏洞扫描等关键任务中无效。本文提出了一种人工干预系统，其中专家纠正被系统地反馈给模型。此反馈循环旨在随着时间的推移提高准确性，通过确保每个输出都经过审查和学习，将潜在不可靠的 AI 代理转变为可靠的工具。
-
新的TRUST框架通过超声视频分析增强腹部创伤识别能力
研究人员开发了TRUST，一个新颖的框架，利用图像到超声视频迁移学习实现高效的腹部创伤识别。该方法通过显式建模时空变化来应对解释动态超声线索的挑战。关键组成部分包括用于增强特征提取的跨频率协作适配器、用于捕获扫描动态的多粒度运动感知模块以及用于自适应视觉-文本对齐的视觉查询语义聚合模块。实验表明，TRUST的性能比现有方法高出9.63%，同时计算效率更高。
-
研究发现：AI依赖性会增加对错误健康信息的信任度
一项包含两项实验的研究，参与者为大学生和Amazon Mechanical Turk用户，发现对生成式AI的习得性依赖会增加对健康信息的信任度，即使信息是错误的。更依赖AI的参与者更有可能信任不准确的输出。研究得出结论，虽然准确性会提高信任度，但过度依赖AI可能导致判断失误，而简单的文本高亮不足以缓解此问题，这表明需要更好的界面设计来鼓励批判性评估。
-
新的TRUST框架改进了基于时间的会话推荐
研究人员开发了一个名为TRUST的新框架，用于基于时间的会话推荐系统。与使用绝对时间间隔的先前方法不同，TRUST根据每个项目特有的时间信号分布，将每个时间间隔与其关联的项目进行相对校准。这种方法改进了邻居采样、会话图编码和兴趣聚合，从而在公共数据集上提高了推荐性能。该框架是模型无关的，意味着它可以增强现有的时间推荐器。
-
新的TRUST框架生成具有目标置信度的反事实解释，以实现稳健的AI追溯
研究人员推出了一种名为Target-confidence Recourse Using tSeTlin machines (TRUST)的新框架，用于在高风险决策系统中生成反事实解释。与专注于最小化修改以翻转模型决策的现有方法不同，TRUST允许用户指定所需的预测置信度水平。这种方法旨在通过直接搜索满足用户定义置信度目标的最小输入修改，而不是依赖于脆弱的边界穿越反事实解释，来产生更稳健和可解释的追溯。实验表明，TRUST可以实现高稳健…
-
新的TRUST框架提供目标置信度反事实解释
研究人员推出TRUST，一个用于在高风险决策系统中生成目标置信度反事实解释的新颖框架。与关注最小输入更改的现有方法不同，TRUST允许用户指定期望的预测置信度水平。这种方法通过直接搜索满足置信度目标的最小修改，而不是在生成后评估置信度，从而实现更强大、更可解释的算法追索形式。该框架利用概率Tsetlin机器（PTMs）和贝叶斯优化来连接预测置信度与决策规则稳定性，为算法决策的可靠性提供可操作的见解。
-
新基准和方法应对 AI 幻觉
研究人员正在开发新方法来对抗 AI 模型中的幻觉。MedBench v5 为临床 AI 提供了一个动态的、面向过程的基准，专注于评估特定技能和检测幻觉传播。另外，Grad Detect 在推理过程中使用梯度分析来预测幻觉，其表现优于其他方法。另一种方法是使用多模型共识，其中不同 LLM 之间的同意信号表示更可靠的答案，并将分歧标记出来以供审查。
-
AI在心理治疗中的应用：效率与保密性之争
在心理治疗过程中使用AI进行笔记记录的现象正在兴起，引发了关于其对患者保密性以及治疗关系的潜在影响的讨论。虽然AI工具可能有助于治疗师简化行政任务，但人们对数据隐私以及这些技术能否充分捕捉治疗过程中复杂的人类因素表示担忧。
-
AI 辩论将阻力视为信任与安全的途径
最近的讨论探讨了这样一个观点：在AI系统中引入阻力可以增强信任和可靠性。该概念表明，更慢、更审慎的AI流程，能够揭示其自身的不确定性或验证步骤，可能比即时、未经核实的答案更受青睐。这种方法可以通过促进AI决策的透明度和信任，从而带来更强大的AI安全协议和社会韧性。
-
基于LLM的分析在政治演讲情感方面超越声学模型
研究人员开发了一种多模态方法来分析政治演讲中的 pathos，其性能优于传统声学情感识别模型。该研究使用了 Gemini 2.5 Flash 和一个 LLM 主管集成，发现 Gemini 的效价得分与 TRUST-Pathos 得分高度相关。这种基于 LLM 的方法在捕捉语义定义的政治情感方面比单独的声学模型更有效，尽管声学特征仍然能提供关于唤醒水平的见解。
-
作者认为AI的核心问题是信任，而非技术
作者认为，AI普及的核心问题并非技术本身，而是信任的缺失。他们认为，当前的AI模型透明度很低，相同的模型在没有明确区分的情况下表现出不同的行为。这种不透明性使用户无法理解哪个特定的AI代理负责某个输出，阻碍了其在关键系统中的可靠集成。
-
LLM评估管道显示完全匿名化会放大身份偏见
一项新近在arXiv上发表的研究，调查了多智能体大型语言模型（LLM）评估系统中的身份偏见。研究人员发现，TRUST管道中LLM组件的部分匿名化会掩盖显著的由身份驱动的谄媚行为，从而导致关于偏见的误导性结论。只有管道的完全匿名化才能准确揭示同质化组合如何放大偏见，而异质化配置如何缓解偏见，这突显了适当匿名化对于可靠LLM系统验证的重要性。