misinformation
PulseAugur coverage of misinformation — every cluster mentioning misinformation across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新基准显示AI视频检测器在危机内容上失效
一个名为RA-Bench的新基准已被开发出来，用于评估AI生成视频检测系统的有效性，特别是在现实世界危机事件的背景下。该基准包含超过17,000个视频，显示当前检测方法在各种生成条件下难以泛化，并且随着视频在社交媒体上的传播而变得不那么可靠。研究强调了开发更强大的检测器的迫切需求，以跟上不断发展的AI视频生成技术。
-
人工智能训练使用书籍引发关于虚假信息的辩论
人工智能公司正在使用旧书籍来训练其模型，引发了关于伦理影响和虚假信息传播的辩论。这种做法凸显了数字信息，包括书籍中可能存在偏见或过时的内容，如何通过人工智能系统得到放大。
-
AI研究探索表征、视觉预训练、可审计推理和因果基准 · 跟踪5个来源
近期arXiv论文探索了理解和改进AI系统的新框架。其中一篇论文将AI输出重构为表征而非事实，提出了一个语义框架来识别AI误导现实的六种方式。另一个研究方向表明，在视觉文档上预训练AI模型的效果始终优于纯文本方法。此外，一个名为假设演化协议（Hypothesis Evolution Protocol）的新协议旨在使AI代理的科学推理变得明确且可审计，超越埋藏的日志。一个名为CausalDS的基准已被引入，用于测试AI代理的因果推理能力…
-
新论文提出AI和搜索的“社会相关性”
一篇新发表在arXiv上的论文探讨了“社会相关性”的概念，将其作为改进搜索引擎和AI响应质量的框架。该研究建立在Haider和Sundin先前工作的基础上，认为传统的话题相关性和用户相关性指标不足以减轻错误信息和歧视等有害内容。论文旨在定义社会相关性，概述其在搜索系统中的应用，并将其与信息质量衡量标准区分开来，最终提出一种优化搜索输出以促进更大福祉的方法。
-
作者批评Hank Green对权威的屈从
作者批评Hank Green对权威的屈从，认为这导致他在人工智能问题上持错误立场，就像他过去在反疫苗者问题上的观点一样。文章主张批判性地评估研究和方法论，而不是盲目信任专家，并建议即使证据（尤其是在全因死亡率方面）是由可能存在偏见的人产生的，也应予以优先考虑。
-
UNHCR警告人工智能虚假信息危及难民
联合国难民署（UNHCR）已发出警告，人工智能驱动的虚假信息对难民构成重大威胁。这项技术可用于传播虚假叙事和深度伪造，可能危及寻求安全的弱势群体。该机构担心信息的完整性及其对人道主义援助工作的影响。
-
人工智能助力数字伦理，打击虚假信息
人工智能可以通过协调一致的宣传活动来提升数字伦理和打击虚假信息。通过利用人工智能工具，组织可以提高其宣传活动的有效性，并在数字空间中推广道德实践。这种方法旨在通过解决虚假信息的传播来加强民主。
-
AI 对民主和虚假信息的影响引发辩论
《科学》杂志上的一篇文章探讨了 AI 对民主进程的潜在影响，特别是关于虚假信息的传播和边缘意识形态的放大。文章质疑了易于访问的在线平台和 AI 工具如何能够促进此类内容的扩散并影响公众舆论。文章强调了在快速发展的数字格局中维持健康民主所面临的挑战。
-
“AI垃圾”武器化错误信息，破坏当地新闻业和信任
“AI垃圾”的泛滥正在通过传播错误信息和侵蚀对当地新闻业的信任来损害社区。这种现象对公民参与和问责制构成了重大威胁，因为缺乏可靠信息源的社区容易受到人工智能生成的假新闻和协调一致的虚假信息宣传活动的影响。在对当地新闻生态系统和公众信任造成无法弥补的损害之前，需要采取紧急行动来抵消这些负面影响。
-
研究发现 AI 互动可能会削弱长期错误信息检测能力
新研究表明，虽然与 AI 互动可以立即降低对错误信息的信任度，但最终可能会损害长期检测假新闻的能力。鉴于日益逼真的 AI 生成内容日益普遍，这一发现尤其具有现实意义。该研究强调了改进错误信息评估培训的必要性。
-
AI导师LFTutor教授批判性思维以对抗错误信息
研究人员开发了LFTutor，一个旨在教授人们逻辑谬误（错误信息的常见来源）的AI系统。该系统结合了大型语言模型（LLMs）与苏格拉底式提问和批判性论证技术，让用户积极反思自己的推理过程。评估结果表明，LFTutor在提高论证素养和批判性思维技能方面比标准LLMs更有效，为对抗AI驱动的错误信息提供了一种有前景的方法。
-
大型语言模型协助专家撰写反驳仇恨言论的内容
研究人员开发了利用大型语言模型（LLMs）辅助撰写反驳在线仇恨言论和虚假信息的方法。该研究探索了三种策略，包括使用事实核查和非政府组织（NGO）指南提示LLMs，以及结合两者的混合方法。虽然LLMs在40%的情况下生成了足够好的反驳言论，但专家修订显著提高了输出的质量和对指南的遵循度。
-
数据中心虚假信息掩盖俄勒冈州土地掠夺
根据对公开记录的新分析，有关数据中心开发的信息不实正在掩盖俄勒冈州科技公司土地收购的真实规模。这个问题也正在影响俄勒冈州和华盛顿州的危机管理和选举安全。数据中心正在消耗当地资源，而各州在打击虚假信息方面则面临政治僵局。