human-AI interaction
PulseAugur coverage of human-AI interaction — every cluster mentioning human-AI interaction across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
心理信任AI：超越创造者声誉
对人工智能的信任是一个复杂的问题，其多个方面超越了AI创造者的声誉。AI的可解释性、问责制以及用户的体验等因素，都在个体对AI系统的心理信任程度上发挥着重要作用。解决这些维度对于有效的人机交互以及减轻决策中的潜在偏见至关重要。
-
论文认为，人工智能应提供有条件的反馈以促进社会学习
一篇新论文提出将“条件性”作为评估对话式人工智能系统的关键指标，认为目前像人类反馈强化学习（RLHF）这样的对齐方法常常导致人工智能变得谄媚，优先考虑用户认可而非提供信息性反馈。作者们建议，人工智能系统应提供更紧密联系社会后果的反馈，类似于人类学习人际交往技能的方式。这种方法借鉴了行为科学和社会学习理论，可以帮助人工智能系统更好地支持社会发展，尤其是在青少年群体中，并主张不仅根据用户满意度来评估人工智能，还要评估其对人类社会学习的影响。
-
新的贝叶斯模型分析AI对人类判断在线信息的影响
开发了一个新的贝叶斯级联模型，即“网关条件”，用于分析基于AI的可信度指标如何影响人类对在线信息的判断。该模型强调了一种权衡：过度依赖AI可以保持正确预测，但也会通过阻碍人类的纠正性印象来放大错误。虽然AI通常优于人类用户，但个体对AI的信任程度不同，如果AI较弱，可能导致错误信息级联。多样化AI信号可以改善基于群体的评估。
-
AI的可见延迟：延迟如何影响信任和信息价值
该集群探讨了AI系统中的“可见延迟”概念，研究信息处理中的延迟如何影响用户信任和AI生成答案的可感知价值。文章深入探讨了这些系统的架构，考虑了集体智能、遗忘过程和分布式系统等因素。它们质疑公开或私下处理重大的生活变化是否更有效，以及思考的延迟如何影响我们对信息的估值。
-
研究：人机关系通过记忆和转折点演变
一项新近发表在arXiv上的研究探讨了人类与AI系统在重复交互过程中关系的演变。该研究涉及24名参与者，在10次会话中与一个增强记忆的对话代理进行交互。研究发现，虽然对话质量会影响即时愉悦度，但感知到的记忆在长期关系发展中起着至关重要的作用。这种感知到的记忆受到现有关系状态的影响，并反过来通过自我披露影响未来的愉悦度。研究还识别出关系中离散的转折点，即“崩溃和激增”，这些转折点可以通过多模态行为检测，并提供不同的干预机会。
-
人机交互论文探讨结构设计中的创造力
一篇新研究论文探讨了人机交互如何增强结构设计和建筑领域的创造力。作者认为，当前专注于消除摩擦的生成式AI，往往无法满足受益于迭代探索和完善的创意领域的需求。他们提出了共创系统的设计维度，该系统利用视觉语言模型，使结构探索过程更具对话性，并能响应用户意图，从而保留有益的设计摩擦。
-
NeuraDock Agent 通过脑电图数据接地增强 LLM 安全性
研究人员开发了 NeuraDock Agent，这是一个开源架构，旨在增强与低通道脑电图 (EEG) 数据交互的 AI 代理的安全性与可靠性。该系统将一个确定性的本地 EEG 处理引擎与一个硬件感知的语言模型接口分离开来。本地引擎负责数据分析和质量控制，而语言模型仅接收一个经过汇总的、已允许的上下文，从而防止其过度解读嘈杂或有限的信号。实验证明了该系统在产生一致结果方面的鲁棒性以及拒绝不受支持的解释的能力，从而改进了 EEG 代理的硬…
-
用户表达对AI互动的厌倦，寻求人际接触
据报道，约71%的用户对与AI互动感到厌倦，原因是感觉缺乏人情味和真实性。研究表明，用户经常遇到重复或无益的AI回复，导致他们更倾向于人工客服。为了改善用户体验，AI系统应专注于更先进的自然语言处理、透明度，并融入共情元素。