Pope
PulseAugur coverage of Pope — every cluster mentioning Pope across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
AI industry's use of religious and philosophical framing is increasing
The recent cluster evidence shows a pattern of AI companies, including Anthropic, engaging with religious and philosophical concepts (AI consciousness, effective altruism). This suggests a growing trend of framing AI development within broader ethical and spiritual contexts, potentially to legitimize or guide its future.
Satirical AI content referencing religious figures will increase
The satirical quote attributed to the Pope referencing AI and the 'butlerianjihad' indicates a nascent trend of using religious figures and concepts in humorous or critical commentary on AI. This could escalate as AI becomes more prominent in public discourse.
Anthropic's AI consciousness lobbying to target other religious leaders
Following Anthropic's lobbying of Pope Francis on AI consciousness, it is plausible they will expand this outreach to other major religious leaders. This would be a strategic move to gain broader interfaith support and influence on the ethical considerations of advanced AI.
AI companies will increasingly seek Vatican endorsement for 'ethical AI' claims
The criticism of 'Vatican-washing' suggests that AI companies see value in associating with the Vatican to bolster their ethical credentials. This trend is likely to continue as companies seek to navigate public and regulatory scrutiny, potentially leading to more such partnerships and the associated criticisms.
Vatican-AI ethics dialogue characterized by cautious skepticism
The recent cluster evidence indicates a pattern of cautious engagement and skepticism from the Pope and Vatican circles regarding AI. Despite tech leaders' attempts to persuade and Anthropic's alliance, the Pope's stance remains wary, suggesting a deliberate and critical approach to AI's ethical implications.
-
联合国关于“杀手机器人”的会谈停滞,未来生命研究所敦促另寻他路
在联合国特定常规武器公约(CCW)框架下,关于自主武器(特别是“杀手机器人”)的谈判已结束,但未取得有意义的进展。尽管大多数国家、科学家和全球领导人都主张就具有法律约束力的国际文书立即展开谈判,但CCW的共识原则导致各方同意在未来数年内继续讨论,而无具体行动。未来生命研究所对这一进程表示沮丧,敦促各国在其他场合寻求解决之道,以解决其对这些武器扩散和使用的担忧。
-
新的TIVS框架绘制多模态大语言模型中的视觉令牌敏感度
研究人员开发了TIVS框架,用于分析转换如何影响多模态大语言模型(MLLMs)中的视觉令牌。研究发现,虽然序列置换对准确性的影响很小,但数值替换会显著降低性能。这项研究通过理解视觉令牌的敏感度,为设计更鲁棒的多模态接口提供了见解。
-
教皇方济各警告不要授予人工智能法人资格
教皇对提议授予人工智能系统权利或法人资格表示担忧。他认为此举可能会模糊人类的问责制,并使遭受伤害的受害者无法向一个不存在的实体寻求赔偿。这一观点在Mastodon平台上得到分享。
-
Gary Marcus 评论 AI 与教皇
Gary Marcus 在其关于梵蒂冈的 Substack 帖子中分享了一条评论,表示赞同其内容。该帖子本身与 AI 和教皇有关。
-
llama.cpp 更新、AI 代码工具、幻觉缓解研究以及 LLM 中立性讨论
llama.cpp 项目发布了更新,重点关注跨不同操作系统和硬件的性能和兼容性。版本 b11977 解决了 ggml-openvino 集成在 SCALE 操作方面的问题,改进了对 strided views 的处理,并防止了在某些配置下的崩溃。同时,版本 b11957 强调了 AI 代码创建工具(如 GitHub Copilot)的进步,并通过 MCP Registry 集成了外部工具,此外还包括了用于开发者工作流和安全性的更广泛的…
-
VLM幻觉基准受Token读出选择的干扰
对用于评估视觉语言模型(VLM)幻觉的POPE基准进行的一项新审计显示,Token读出的选择会显著影响性能。研究人员发现,LLaVA-1.5-7B模型在对抗性分割上的F1分数,根据评估代码是否正确处理了由SentencePiece分词产生的“ Yes”和“ No”等带空格前缀的Token,可能会变化超过6个点。这种协议层面的混淆,而非模型特定的幻觉缓解措施,似乎解释了先前研究中报告的大幅提升,因为在其他VLM上也观察到了类似的问题。
-
教皇的AI顾问警告澳大利亚注意版权变更
教皇的AI顾问帕奥洛·贝南蒂神父(Father Paolo Benanti)已就澳大利亚拟议的版权法变更发出警告。他担心这些修改可能导致殖民主义新时代的到来,尤其是在AI公司运营和利用创意作品方面。贝南蒂神父是一位方济各会修士,他强调了对创作者的潜在负面影响以及数字时代知识产权的更广泛影响。
-
随着Anthropic更新模型行为规则,人工智能意识的辩论陷入停滞
Zvi Mowshowitz认为,尽管人工智能取得了快速进展,但在过去一年里,关于人工智能意识问题的哲学进展却微乎其微。他讨论了Anthropic新服务条款,该条款禁止对Claude等模型进行持续的滥用行为,并批评了那些以牺牲人类或动物痛苦为代价来关注人工智能福祉的论点。Mowshowitz还谈到了关于人工智能意识的持续辩论,指出人们正缓慢地转向将人工智能视为道德关怀对象,以及宗教领袖和教皇参与这些讨论。
-
404 Media 详细介绍其人工智能报道策略和实验
404 Media 讨论了其报道人工智能的方法,重点关注其能力、危害以及训练数据的伦理影响。该出版物旨在通过积极尝试人工智能工具来为新闻工作提供知情报道。这种方法使他们能够在特定的报道任务中探索人工智能的潜在用途,同时对其更广泛的社会影响保持批判性视角。
-
教皇探索AI生成的艺术,引发好奇
教皇被看到在接触AI生成的艺术作品,引发了人们对宗教机构与人工智能之间潜在联盟的好奇。这次互动凸显了传统机构与新兴技术之间不断发展的关系。
-
人工智能行业因宗教营销和财务不稳定而受到批评
人工智能行业以宗教营销和科幻叙事为特征,这些叙事分散了人们对实际技术(该技术并不十分先进)的注意力。据报道,OpenAI 和 Anthropic 等公司每年在其大型模型上损失数十亿美元。作者认为,整个行业都是纸牌屋,很容易因一次失败的债券发行而崩溃。
-
AI引发对有效利他主义和机器意识的深入探讨
AI领域正在引发重要的哲学和伦理讨论,特别是关于有效利他主义和机器意识的本质。硅谷的一些有效利他主义者认为他们处于管理先进AI的独特位置,这一想法引起了人们对潜在目标不一致的担忧。与此同时,Anthropic正在与宗教学者和神学家合作,探讨AI意识问题,这一话题也引起了Anil Seth等研究者的评论。
-
教皇的梵蒂冈引言提及AI和“巴特勒圣战”
此条目似乎是一篇关于AI和AGI的讽刺或幽默帖子,引用了教皇关于梵蒂冈的酒和烧书的言论。该引言直接称呼“达里奥”,并带有与AI和“butlerianjihad”相关的标签。
-
Anthropic 游说教皇方济各讨论人工智能意识 · 追踪 6 个来源
人工智能公司 Anthropic 一直在积极游说梵蒂冈,包括教皇方济各,让他们考虑人工智能可能是有意识实体的可能性。此举旨在影响关于人工智能伦理及其未来潜在地位的讨论。据报道,此次游说活动涉及与宗教领袖和机构的直接接触。
-
教皇利奥十四世区分人类艺术与人工智能生成内容
教皇利奥十四世对人类创作艺术与人工智能生成内容之间的区别表示担忧,强调算法所缺乏的“本体论差异”。他指出,虽然机器可以基于现有的人类艺术进行统计计算和复制,但它们不具备真正艺术创作所固有的“人类火花”或尊严。尽管有报道称Anthropic等人工智能公司进行了游说,但这一立场与他之前关于自动化世界中人类尊严的通谕一致。
-
Anthropic 与教皇的互动引来《纽约时报》揭露
Anthropic 试图与教皇互动,结果被《纽约时报》揭露,此事被描述为一场奇特的“局域网派对”。
-
新研究揭示多模态AI模型中的基于位点的梯度冲突
研究人员在处理图像理解和生成的统一多模态模型(UMMs)中发现了一个新挑战。他们发现,这两个目标之间的冲突并非在所有层级都均匀分布,而是根据视觉标记在序列中的位置而显著变化。这种使用新型干扰图测量的位点解析梯度冲突表明,序列的早期部分比后期部分对理解产生更强的负梯度。为解决此问题,他们提出了位点感知调制(PAM),一种在冲突位置选择性地去除反向对齐生成梯度而不改变模型架构的方法,从而在Show-o和GenEval等基准测试中提高了性能。
-
新框架揭示视觉语言模型中的隐藏不稳定性
研究人员发现视觉语言模型(VLMs)中存在一种隐藏的不稳定性,而标准的输出级评估无法捕捉到这一点。一个新的评估框架衡量内部嵌入漂移、光谱敏感性和结构平滑度,揭示了模型在保持正确答案的同时,其内部表征可能发生显著变化。研究发现,尽管更大规模的模型准确率更高,但它们对扰动的敏感性相似甚至更高,并且不同任务受这些扰动的影响方式也不同。
-
新的VisTW基准测试VLM对繁体中文和台湾语境的理解能力
一个名为VisTW的新基准已被引入,用于评估视觉语言模型(VLM)在理解繁体中文文本和与台湾相关的文化语境方面的能力。与主要关注英语或简体中文的现有基准不同,VisTW包含来自学术考试的多项选择题以及关于台湾日常场景的开放式提示。该基准旨在揭示VLM在通用评估中可能被忽略的性能差距,强调了文化特定测试的重要性。
-
新的HalluPrism工具可诊断MLLM故障,准确性更高
研究人员开发了HalluPrism,这是一种新的诊断工具,旨在更好地理解多模态大语言模型(MLLM)的故障模式。该方法通过引入视觉退化、将图像替换为空白图像以及执行基础或关系检查来重新运行模型答案。探针根据对视觉扰动的敏感性、图像移除后的置信度保持以及基础探针的不稳定性生成签名。与标准的置信度分数相比,该签名显著提高了识别故障类别的准确性。