Alexander Loth
PulseAugur coverage of Alexander Loth — every cluster mentioning Alexander Loth across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
研究：人类无法可靠地区分大型语言模型生成的新闻与人类撰写的内容
一项新研究发布在arXiv上，题为《人类能分辨吗？一项关于人类感知大型语言模型生成新闻的双轴研究》，发现参与者无法可靠地区分人类撰写的新闻文章和由大型语言模型（LLMs）生成的新闻文章。这项研究涉及了1000多名参与者，收集了2300多项判断，表明这种区分能力缺乏的现象适用于各种LLMs，包括一些较小的开源模型。虽然自我报告的领域专业知识提高了准确性，但政治倾向没有显著影响，认知疲劳会随着时间的推移降低表现。研究得出结论，用户端检测并…
-
新框架揭示人类易受人工智能幻觉影响
一项新的研究论文介绍了JudgeGPT和RogueGPT，这是一个旨在调查人类如何容易受到基础模型幻觉和虚假信息影响的框架。该研究分析了包括GPT-4和Llama 2在内的五个基础模型的918项评估，发现政治取向对检测准确率的影响很小。相反，熟悉“假新闻”成为一个重要因素，这表明接触可以作为人类辨别能力的对抗性训练的一种形式。该研究强调了一个“流畅性陷阱”，即像GPT-4这样的模型的高度流畅输出与人类文本无法区分，从而损害了信息源监控机制。
-
专家警告生成式AI文本构成系统性虚假信息风险，呼吁制定溯源标准
一项对AI研究人员、政策制定者和虚假信息专家的最新调查显示，他们对生成式AI在制造虚假信息方面的作用表示担忧。专家认为基于文本的生成式AI构成系统性风险，可能导致“认识碎片化”和“合成共识”，尤其是在政治背景下。尽管技术检测工具受到质疑，但人们呼吁制定溯源标准和监管框架，以应对追踪和打击合成媒体的挑战。研究强调了可复现方法和信息完整性作为基础设施的必要性。
-
AI生成错误信息的研究随着新的检测工具而发展
一篇新的arXiv论文《工业化欺骗》探讨了AI生成错误信息不断变化的格局。研究强调了大型语言模型（LLMs）和多模态系统的进步，这些进步提高了欺骗性内容的质量。为了对抗这一点，该论文介绍了两个实验工具：JudgeGPT用于评估人类对AI生成新闻的感知，RogueGPT用于受控刺激生成。研究结果表明，AI内容生成和检测能力之间正在进行一场军备竞赛，并讨论了LLM检测和接种方法等缓解策略。