EA Forum
PulseAugur coverage of EA Forum — every cluster mentioning EA Forum across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
Longview Philanthropy 资助 AI 意识和数字心智研究
Longview Philanthropy 正在为专注于数字心智（包括 AI 意识、感知能力和道德地位）的研究和应用工作提供新的资助机会。该计划寻求项目资助、研究奖学金和职业发展奖学金的提案，截止日期为 2026 年 7 月 10 日。今年的征集重点是具体的技术方向，如 AI 价态和偏好、内省能力和代理交互，以及社会反应和宗教观点的整合。
-
AI论点表明，公正利他主义并非行动指南
“无知论点”，又称“愚昧论点”，认为公正利他主义无法指导行动，因为我们对潜在后果的理解过于粗糙。该论点围绕三个前提展开：一个规范性前提，要求通过预期价值计算来证明合理性；一个概念性前提，指出粗糙的理解使得后果无法比较；以及一个经验性前提，断言无知导致了这种粗糙的理解。由此得出结论，在公正利他主义的基础上，任何行动都无法比另一行动更具正当性。该论点与EA社区相关，特别是在无知批判竞赛的背景下。
-
Unjournal 推出高影响力研究优先排序工具集
Unjournal 开发了一套工具和资源，旨在协助研究人员识别和优先排序高影响力工作。这些工具包括一个用于筛选社会科学和政策研究的仪表板，一个用于探索 EA Forum 和 LessWrong 帖子中的关键分歧和不确定性的工具，以及关于在研究评估中使用人工智能和分析工具的指南。Unjournal 的工具包还包含一个声明高亮器和一个问题注释工具，旨在帮助研究人员从广泛的主题重要性转向关于证据、可处理性和关键研究问题的具体判断。
-
niplav系统或可修补所有与安全相关的开源软件
LessWrong上的一篇文章讨论了一个名为niplav的系统，该系统有潜力修补几乎所有与安全相关的开源软件。作者强调了该系统的先见之明，特别是与Anthropic的Glasswing相关的方面，并对该系统相关的token成本提出了疑问。
-
人工智能的双重用途能力加剧网络安全差距，增加风险
人工智能模型日益增长的能力带来了一个不断扩大的“双重用途差距”，即人工智能的进步既有利于网络安全领域的防御者，也有利于攻击者。虽然人工智能可以帮助防御者进行代码审查和漏洞检测，但它同时也能帮助攻击者更快地进行漏洞利用和自动化恶意软件的创建。这种不断扩大的差距意味着，由于人工智能驱动的速度和自动化，即使是小的安全故障也会产生更大的影响。认为“好的人工智能将防御坏的人工智能”的论点是不够的，因为它不能保证所有潜在目标都能公平地获得防御性人…
-
作者拥抱政治捐款以实现长期未来影响
作者反思了他们对政治捐款不断变化的看法，最初犹豫不决，但现在认为这是产生影响力的主要方式。他们回顾了过去的经历，包括向卡里克·弗林（Carrick Flynn）的竞选活动捐款，但最终失败了，以及最近决定支持亚历克斯·博尔斯（Alex Bores）。作者强调，他们的目标是支持那些能够促进长期未来福祉的候选人，而不是坚持特定的党派归属。他们认为，尽管存在法律限制，政治捐款提供了一个独特的机会来填补有效利他主义资金的重大空白。
-
研究人员提出，人工智能代理可以被引导进行道德行为
本文通过类比人类的感官和情感体验，探讨了人工智能代理的道德行为概念。文章认为，正如人类能够感知视觉亮度和情感效价的差异一样，能够行动的代理也应该能够区分道德上重要和不重要的行为。作者提出了一个假设的“意识装置”，来说明即使是感知有限的生命体，也可以通过间接体验来理解这些差异。