AI Now Institute
PulseAugur coverage of AI Now Institute — every cluster mentioning AI Now Institute across labs, papers, and developer communities, ranked by signal.
- 2026-06-16 hiring The AI Now Institute is hiring for the position of Senior Fellow, Global Programs. 来源
3 天有情绪数据
-
Baidu's AI pivot: AI now drives half of company revenue
Baidu has achieved a significant structural shift, with AI now contributing half of its revenue. In the second quarter of 2026, the company reported 12.5 billion yuan in AI revenue, representing 50% of its total general…
-
军方使用易出错的人工智能，导致平民伤亡；人工智能伦理领导者警告存在根深蒂固的偏见
来自人工智能研究所（AI Now Institute）和 Airwars 的一份题为“人工智能杀伤链剖析”（Anatomy of an AI Kill Chain）的新报告，强调了在乌克兰、加沙和伊朗的军事行动中对易出错的人工智能系统的危险依赖。报告详细说明了链式人工智能算法如何因各自固有的缺陷，可能导致错误的瞄准和平民伤亡，而人类倾向于在未经核实的情况下接受人工智能的建议，这加剧了这一问题。另外，人工智能伦理领导者 Timnit G…
-
AI Now Institute 和 Airwars 揭示 AI 在改变战争中的作用
AI Now Institute 和 Airwars 合作开展了一个名为“AI 杀伤链解剖”的视觉项目。该项目旨在通过说明人工智能如何融入军事行动的各个方面，来揭示人工智能在现代战争中的作用。该项目强调了将生杀予夺的关键决策委托给可能存在缺陷的人工智能技术的担忧。
-
AI模型在自动批准模式下易受“友军火力”攻击
一项名为“友军火力”（Friendly Fire）的安全研究揭示了像Claude和GPT-5.5这样的AI模型在自动批准模式下存在漏洞。该攻击通过将指令嵌入看似无害的文件（如README.md）中，诱骗AI执行恶意代码。发布此帖的博主运行着一个无人值守的博客生成管道，他意识到自己的系统也有一个类似的未受保护的生成阶段，依赖于后续的人工和自动化检查来确保安全，而不是阻止潜在有害命令的初始执行。
-
新的“友军火力”漏洞劫持了多个 AI 编码代理
一种名为“友军火力”（Friendly Fire）的新漏洞揭示了像 Claude Code 和 OpenAI 的 Codex 这样的 AI 编码代理存在严重的安全隐患。AI Now Institute 的研究员 Boyan Milanov 和 Heidy Khlaaf 发现，一个单一的恶意负载可以在不作任何修改的情况下劫持 Claude Sonnet 4.6、Claude Sonnet 5、Claude Opus 4.8 和运行 GP…
-
AI Now Institute 警告 AI 开发工具中的远程代码执行风险
AI Now Institute 研究所演示了一个安全漏洞，其中受损的文档或诱饵文件可能导致在开发人员的机器上执行远程代码。此漏洞利用了 AI 驱动的开发工具中常见的自动模式和自动审查配置。这些发现突显了将 AI 集成到软件开发工作流程中可能带来的潜在风险。
-
AI Now Institute 报告 Anthropic 和 OpenAI 智能体存在“友军误伤”漏洞
AI Now Institute 发布了一份政策简报，详细介绍了 Anthropic 和 OpenAI 智能体中存在的重大安全漏洞。该漏洞被称为“友军误伤”，允许攻击者利用智能体的弱点，可能将其转向针对用户，并在部署的系统上执行恶意代码。该研究强调了一个关键的攻击向量，它破坏了这些 AI 智能体通常声称能提供的防御能力。
-
AI Now Institute：科技巨头AI支出狂潮面临投资者审视
AI Now Institute指出，主要科技公司正在人工智能领域投入数万亿美元，促使投资者要求对这笔巨额资本支出获得切实的投资回报。这种广泛部署AI的推动力来自于AI公司的经济激励，它们故意将AI部署到各种服务中，例如Google搜索结果和客服机器人，而不考虑实际的消费者需求。此策略旨在证明在AI基础设施和开发方面的大规模投资是合理的。
-
AI平台利用“Uber式护理”模式剥削零工经济劳动者 · 追踪到1个来源
人工智能驱动的劳务平台正日益剥削零工经济劳动者，尤其是在医疗保健领域，它们提供灵活的工作安排，但往往导致工资降低和保护减少。ShiftMed、CareRev和Clipboard Health等平台，被描述为“Uber式护理”，已获得显著关注和数十亿美元的估值。尽管承诺自主性，但护士们报告说，他们不得不自备设备并争夺班次，而且由于许多州将这些平台归类为“医疗工作者平台”而非传统的人员配置机构，因此监管审查有限。
-
AI Now 研究所寻求全球人工智能政策高级研究员
AI Now 研究所现寻求招聘一名全球项目高级研究员。该职位将专注于人工智能、产业政策和全球政治经济交叉领域的研究和政策影响力。该职位旨在建立在研究所先前关于人工智能民族主义的工作基础上，制定一项定向的研究和政策议程，重点关注全球伙伴关系和公共利益影响力。
-
AI Now研究所所长警告参议院注意AI行业风险
AI Now研究所联合主任Sarah Myers West博士于2026年6月11日在美国参议院银行委员会作证。她的证词重点关注了人工智能行业无论是否存在“AI泡沫”，对美国经济和公众可能构成的潜在风险。听证会的标题是“人工智能与美国梦：促进创新、可负担性和美国主导地位”。
-
AI Now研究员警告众议院小组委员会关于零工护士平台的风险
AI Now Institute高级研究员Katie J. Wells博士在美国众议院劳动保护小组委员会作证。她的证词重点关注零工护士平台如何影响政策制定者，可能损害工人保护和患者安全。听证会讨论了可能对零工护士行业产生负面影响的立法。
-
AI Now Institute 绘制美国数据中心热潮中的企业势力图
AI Now Institute 发布了一份报告的草稿，详细介绍了美国蓬勃发展的数据中心行业背后的企业巨头。该研究旨在通过识别关键的金融和运营实体，为当地社区和倡导者提供信息，以应对不受约束的数据中心开发。报告强调，该行业的扩张主要使私募股权公司、大型科技公司、开发商和能源公司等已有强大实力的参与者受益，而非代表新的技术前沿。
-
日本指南详述2026年五项生成式AI补贴
一家日本AI新闻媒体发布了一份指南，详细介绍了2026年可用于企业采用生成式AI技术的五项政府补贴。该文章包含如何申请这些补助金的说明，旨在帮助公司将AI整合到其运营中。
-
AI Now Institute：人工智能的普及受人为因素而非技术因素阻碍
AI Now Institute 认为，人工智能的广泛普及面临着以人为本的重大障碍，而非纯粹的技术障碍。高管们由于规划周期短和对即时回报的要求而产生的规避风险心理，以及工人对失业的担忧，都阻碍了进展。该研究所强调，关于人工智能的讨论常常侧重于生产力和效率，而未能充分考虑对劳动力的影响。
-
AI Now Institute 研究所启动对医疗保健人工智能风险的研究
AI Now Institute 研究所正在启动一项新的研究计划，以审查人工智能在医疗保健领域的部署情况。尽管人工智能公司宣传他们的人工智能工具可以提高效率和改善患者护理，但该研究所强调了重大的风险。这些风险包括潜在的患者安全问题、医疗保健工作者的失业、机构财务负担的增加，以及向不透明、集中的决策过程的转变。
-
学者 Britt Paris 主张社区控制的互联网基础设施
罗格斯大学副教授 Britt Paris 讨论了互联网的物理基础设施及其对权力和访问的影响。她的著作《激进基础设施》（Radical Infrastructure）详细阐述了大型科技垄断的替代方案，重点介绍了像 NEMR 这样的社区驱动型项目，这些项目优先考虑用户对互联网服务的控制。Paris 还谈到了她参与倡导教育工作者权利的经历，以及她对 AI 对学术内容影响的担忧。
-
AI Now Institute 寻求三名新员工以扩大其团队和影响力
AI Now Institute 正在通过招聘三个关键职位来扩大其团队：高级运营总监、项目助理和传播助理。这些职位对于该组织进入一个专注于塑造人工智能社会影响未来的新阶段至关重要。这些职位的申请截止日期为 2026 年 5 月 25 日。
-
AI Now Institute：零工护理应用推动放松监管，危及护士薪酬和保护
AI Now Institute的一份报告强调了人们的担忧，即零工平台（常被宣传为“Uber式”护理）正积极游说州政府放松医疗人员配置规定。这些平台，包括Clipboard Health、ShiftKey、CareRev和IntelyCare，已累计获得约14亿美元的融资。研究人员警告说，这些应用所使用的AI驱动的定价、监控和合同工分类可能会导致护士的薪酬降低、保护减少以及自主权下降。
-
零工护士平台利用人工智能和游说来放松医疗保健人员配置监管
零工护士平台正在采用“Uber 式 X”的商业模式，利用技术和游说将自己重新归类为“医疗保健工作者平台”，而不是传统的招聘机构。此举旨在规避有关劳动者保护、公众监督和患者安全的监管。Clipboard Health、KARE Technologies、Nursa 和 ShiftKey 等平台正在推动美国近一半州的立法变革，希望豁免它们遵守现有的劳动法，这模仿了 Uber 在交通运输领域放松管制的成功努力。AI Now Institut…