Community Notes
PulseAugur coverage of Community Notes — every cluster mentioning Community Notes across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
埃隆·马斯克宣布X将就已更正的帖子向用户发送私信
X（前身为Twitter）正在实施一项新功能，用户与收到社区笔记的帖子互动后，将收到关于更正的直接消息。这项由埃隆·马斯克宣布的变更旨在使众包更正比标准通知更难被忽视。虽然具体发布日期尚未确定，但该功能旨在通过在内容被事实核查后提醒用户注意可能具有误导性的内容来打击虚假信息的传播。
-
研究发现，协调操纵会破坏社交媒体事实核查
arXiv上的一篇新研究论文详细介绍了协调操纵如何破坏X、Meta和TikTok等主要社交媒体平台使用的众包事实核查系统。该研究侧重于这些平台采用的矩阵分解算法，并表明少量用户的战略性投票可以制造虚假的共识。研究人员发现，在少于10次评分的情况下，高达10.7%的低质量备注可能会被操纵，而且违反直觉的是，将备注评为“无帮助”反而可能增加其感知到的帮助性。此后，X的Community Notes已开发并部署了缓解措施，以解决这种人为的共识。
-
研究发现，X 上的 AI 生成社区笔记通过人类反馈得到改进
arXiv 上发表的一项新研究分析了 X 的协作笔记系统，该系统使用 AI 起草社区笔记，然后由人类反馈进行完善。研究人员发现，侧重于事实纠正和补充上下文的人类建议最有可能被纳入 AI 生成的草稿中。虽然人类反馈提高了这些笔记的有用性，但它们在平台上的整体采用率低于仅由人类或仅由 AI 生成的笔记，而有限的人类参与被认为是瓶颈。尽管存在这些挑战，协作笔记通过处理可能未被审核的内容发挥了补充作用。
-
AI孵化器Surplus为公共利益初创公司提供10万美元种子资金
Surplus，一个由Manifund和Mox组织的孵化器，将于7月下旬在旧金山启动一项为期3个月的计划，以培养专注于在AI时代创造巨大公共利益的软件初创公司。该计划为人工智能在认识论和协调、面向公众的网站以及社区基础设施等领域的项目提供10万美元的种子资金、指导和人脉拓展机会。申请截止日期为6月24日，重点关注理想主义、足智多谋且致力于积极和解成果的创始人。
-
研究表明LLM在处理健康错误信息方面存在困难
研究人员开发了新的方法来评估和改进大型语言模型处理健康相关错误信息的方式。一项名为MedRedFlag的研究发现，当前的LLM经常未能将用户从错误的健康前提中引导开，可能导致糟糕的医疗决策。另一个名为CrowdNotes+的项目旨在通过LLM增强现有的基于社区的错误信息治理系统，以加快健康主题的上下文笔记的流程并提高准确性。
-
EvoNote 智能体通过演进式记忆改进健康领域虚假信息纠正
研究人员开发了 EvoNote，一个旨在改进社交媒体上健康相关社区笔记生成的新型智能体框架。该系统利用过去纠正虚假信息经验的演进式记忆来提升其性能。EvoNote 表现出显著的改进，其生成的笔记在近 90% 的评估中优于人工编写的笔记，并将生成纠正笔记的时间从超过 13 小时缩短到不到 2 分钟。
-
新的CommunityFact基准测试LLM的错误信息检测能力
研究人员推出了CommunityFact，这是一个新的基准，旨在评估大型语言模型在动态、多语言和多领域在线环境中检测错误信息的能力。该基准包含五种语言和两个领域的超过15,000个声明，评估了具有不同推理时间能力（如网络搜索）的LLM。研究结果表明，虽然网络访问显著提高了性能，但LLM的来源选择通常与人类评估者的一致意见不同，这表明需要改进检索机制。
-
研究发现X社区笔记鼓励从众，并提出替代方案
一篇新研究论文分析了X的社区笔记系统，发现其基于共识的审核机制鼓励用户进行策略性从众，尤其是在有争议的话题上。该研究提出了一种替代性的审核和聚合算法，该算法根据贡献者过去评估的稳定性而非与多数人的一致性来加权。这种修订后的方法旨在提高预测准确性，并避免惩罚那些与普遍共识不一致的用户。