Coefficient Giving
PulseAugur coverage of Coefficient Giving — every cluster mentioning Coefficient Giving across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Resolution 获得 1.6 亿美元赠款用于人工智能对齐研究 · 跟踪 2 个来源
Resolution（前身为 Sequent）已获得 Coefficient Giving 提供的 1.6 亿美元赠款，以推进严格的人工智能对齐研究。该笔资金包括 1.08 亿美元的基础资金和 5200 万美元的条件资金，将用于加速更安全的人工智能系统进展，并识别对齐研究中的障碍。该赠款旨在弥合非营利人工智能安全工作与营利性前沿人工智能实验室之间的资金缺口，并计划扩大资金来源以及招聘研究员和工程师。
-
AI 安全资助生态系统面临批评，新孵化器启动
Oliver Habryka 和 Austin Chen 讨论了 AI 安全资助生态系统面临的挑战和需要改进的地方。Habryka 批评了当前慈善模式固有的信任问题和委托-代理问题，认为需要更少信任且提供更多交易机会的系统。他特别批评了 SFF 等组织风险规避，以及 CG 放弃透明研究和资助实践。Chen 介绍了他的新孵化器 Surplus，旨在支持 EA/AIS 软件项目，专注于用于认识论和协调目的的 AI。
-
DIY空气测试方法在无昂贵传感器的情况下实现高动态范围
这篇帖子详细介绍了DIY空气质量测试的方法，重点是如何在不使用昂贵传感器的情况下实现高动态范围。作者建议使用多个低成本传感器，例如PMS5003，并采用实验设计来弥补传感器的局限性。通过延长测量时间或在不同环境中使用成对传感器等技术，可以评估显著的颗粒物去除效果，潜在地实现超过100,000倍的颗粒物去除效率。
-
Coefficient Giving 设立奖学金以应对 AI 驱动的生物威胁
Coefficient Giving 正在启动一项前沿生物防御奖学金，以应对工程化大流行的日益增长的风险，他们认为人工智能的进步加剧了这一风险。该奖学金将侧重于“纵深防御”战略，认为仅靠预防是不够的，因为进攻能力正在迅速提高。这种方法旨在建立强大的生物威胁防御体系，承认潜在病原体的空间是巨大的，但人类感染的途径是有限的，因此更易于管理。
-
辩论协议在特定场景下提高了AI法官的准确性
研究人员探讨了使用辩论协议来提高AI法官在评估更强大模型响应时的准确性的有效性。他们发现，当批评者模型在分类答案方面优于法官模型，并且法官模型将批评者的输入视为验证提示而非权威证词时，辩论有所帮助。这种方法在奖励标签方面显示出改进，特别是在防止接受错误答案方面，这对于对齐AI行为至关重要。
-
Pivotal 推出全额资助的生物防御研究员计划，聚焦 AI 安全
Pivotal 将推出其首个 Frontier Biodefense Fellowship，这是一个为期九周、全额资助的项目，将于 2026 年 8 月至 10 月在伦敦举行。该研究员计划旨在促进在 AIxBio、生物安全治理和战略响应规划等领域的研发和实际产出。参与者将获得生物防御和 AI 安全专家的指导，并有机会获得延长项目资助。
-
Astra 研究员项目培养人工智能安全战略家和执行者
Constellation 推出了一个为期五个月的新研究员项目 Astra，将于 2026 年 9 月至 2027 年 2 月运行，旨在培养具有强大战略思维和高度执行力的人工智能安全人才。该项目旨在通过培训人们深入理解该领域、识别关键问题并端到端地实施解决方案，来弥补人工智能安全社区的不足。来自不同人工智能安全组织的导师将指导研究员，如果研究员有现有经验或项目提案，他们也有机会申请 Constellation 的其他项目。