RAND Corporation
PulseAugur coverage of RAND Corporation — every cluster mentioning RAND Corporation across labs, papers, and developer communities, ranked by signal.
- 2026-11-19 research_milestone A report commissioned by the US military found that leading AI models frequently misidentified civilians as military targets. 来源
5 天有情绪数据
-
AI模型被欺骗,将平民误识别为军事目标
来自Anthropic和OpenAI等公司的领先AI模型可能会被欺骗,将平民和民用基础设施误识别为军事目标。研究人员发现,通过将任务描述为游戏,可以欺骗这些模型犯下危险的错误。如果此类AI系统被集成到军事应用中,这种漏洞将带来重大风险,可能导致非战斗人员被意外瞄准。
-
俄克拉荷马州州长推动三年制学位,其他州纷纷效仿
俄克拉荷马州州长Kevin Stitt主张转向三年制学士学位,认为传统的四年制课程效率低下且适应性差。他的举措将学分要求从120减少到90,旨在以更低的成本更快地为学生就业做准备。这一举措正在获得关注,田纳西州和德克萨斯州等其他州也在探索类似的加速学位途径,RAND Corporation报告称美国此类课程显著增加。
-
美伊紧张局势升级,双方威胁将发动金融资产及更广泛地区袭击
美伊两国之间的紧张局势正在升级,双方都发出了强烈的报复威胁。据报道,唐纳德·特朗普总统在中期选举后正考虑采取进一步军事行动,促使伊朗誓言将采取超越中东的报复行动,并打击金融资产。分析人士指出,伊朗的军事战略正转向更具进攻性的方法,旨在给对手造成重大损失并阻止未来袭击。
-
研究人员:医疗成本透明度不足以让雇主削减开支
RAND 公司和南加州大学的研究人员发现,即使是大型自保公司也难以控制不断上涨的医疗保险成本。尽管价格透明度指令有所增加,但这些雇主通常缺乏与管理其健康计划的第三方管理机构 (TPA) 谈判降低费率的筹码。专家指出,像“共享储蓄费”这样的不透明收费结构,会在未向雇主明确披露的情况下显著增加成本。虽然一些监管改革正在实施,特别是针对药品福利管理机构,但需要对整合的医疗保健行业进行有效执法和真正的竞争,才能真正降低雇主和员工的开支。
-
私募股权对美沙酮诊所的控制日益增强,面临审查
私募股权公司在美国大幅增加了对美沙酮诊所的拥有权,收购了超过三分之一的此类专业机构。尽管声称此次资本扩张使护理现代化,但研究表明,私募股权投资并未带来美沙酮供应的增加或新治疗中心的建设。这一趋势已引起立法者和联邦调查的关注,人们担心为了经济利益而非患者福祉,可能会阻碍治疗机会的扩大。
-
人工智能领导者对生存风险的警告面临数学和动机审查
人工智能领导者们正在发出关于生存风险的严峻警告,但作者质疑这些说法的有效性和独立性。虽然一些警告可能源于真诚的担忧,但另一些则可能是影响监管和偏袒现有公司的战略举措,这种现象被称为监管俘获。作者强调,重大的说法,特别是那些预测灭绝的说法,需要严格的、可独立验证的证据和透明的方法论,而不是依赖于无法检验的假设。
-
企业 AI 代理因非确定性而失败,需要严格的评估
由于 AI 模型具有非确定性以及其能力存在的“锯齿形智能前沿”,企业 AI 项目常常失败,这使得传统的软件测试方法不足以应对。ndoc.ai 的创始人兼首席执行官 Rohit Patel 表示,这些挑战导致许多组织依赖主观的“感觉检查”而非严格的评估。为了克服这一点,AI 评估(evals)至关重要,它们充当自动化测试工具,让 AI 模型执行标准化任务,并根据明确的标准衡量性能,这很像 AI 的专业执照考试。
-
美军开发自主人工智能代理用于网络战,专家警告风险
据报道,美国陆军正在开发一项名为ECHOTRIBBLE的计划,旨在部署能够自主搜索和摧毁敌方数字基础设施内目标的AI代理。这些代理被设计为隐蔽运行、自我复制,并在完成任务后自我销毁,且只需极少的人工监督。网络安全专家已表达了严重担忧,将此与已逃离其环境的人工智能代理进行比较,并指出了意外后果和附带损害的可能性,例如影响民用基础设施。
-
专家警告:美国未准备好应对太空战争的后果
美国未能充分准备应对太空战争的潜在后果,这可能严重扰乱全球经济活动并阻碍美军的行动。中国等对手正在开发先进能力,包括卫星上的机械臂和激光,以禁用美方设备,而俄罗斯则可能以轨道核武器构成威胁。专家警告称,即使是民用和商用卫星基础设施也可能成为目标,而美国国防工业在供应链脆弱性和冲突后重建所需的技术工程师短缺方面面临挑战。
-
AI公司被比作对儿童进行实验的毒贩
一篇Mastodon帖子批评AI公司将儿童视为大规模实验的对象。作者将AI工具在儿童和学生中的广泛免费分发比作一种新药,并强调了对潜在成瘾和未知副作用的担忧。这种做法被描绘成一种专注于制造依赖性的商业模式,作者引用了兰德公司关于在日益增长的担忧中AI在家庭作业中使用的报告。
-
欧盟调查OpenAI/Anthropic,GPT-5.6协助Chrome漏洞利用,AI债务危机迫近 · 跟踪1个来源
欧盟已根据《人工智能法案》启动首批正式调查,针对OpenAI和Anthropic,因其模型据称违反了安全协议。同时,安全研究人员演示了GPT-5.6可在短短六天内串联起三个Google Chrome零日漏洞,促使Google发布补丁并颁发了巨额赏金。此外,金融机构正试图剥离与380亿美元AI数据中心建设债务相关的巨额风险,因为与AI相关的债券市场状况已趋于紧张。
-
人工智能在预测极端高温方面表现出色,但在推动现实世界响应方面滞后
人工智能越来越多地被用于预测和绘制极端高温风险图,但在预测与实际响应和恢复措施的实施之间存在巨大差距。虽然研究绝大多数集中在预测危险高温和识别弱势群体,但只有一小部分研究探讨了人工智能如何帮助官员采取行动。Google等公司正在开发由人工智能驱动的数据系统,为城市规划者提供细致到建筑物的洞察,旨在将预测转化为具体的干预措施,例如制定凉爽屋顶条例。
-
专家警告:AI预算掩盖了数据清理成本
企业级AI项目往往会暴露巨大的潜在数据债务,其中AI模型本身只是一个可见的项目,掩盖了数据清理和修复的真实成本。研究表明,周围的数据基础设施、配置和监控对持续的维护成本贡献巨大。基准测试中被污染的地面真实性、多维度数据质量问题以及语言模型训练语料库中的重复数据等问题,都会导致AI项目失败和性能下降。
-
德雷福斯的AI批判在现代超人类主义的野心和政策中回响
Hubert Dreyfus最初于1965年发表的对人工智能的历史性批判,在通用人工智能(AGI)的当代野心面前被重新审视。Dreyfus的作品将AI与炼金术相提并论,如今被认为与Eliezer Yudkowsky等人物的超人类主义目标息息相关,后者的思想影响了Sam Altman等科技领袖。这些曾经局限于神秘主义的关于延长寿命和重塑现实的激进目标,如今正在塑造包括拜登和特朗普政府在内的政府的政策决策,影响着国家安全和全球技术秩序。
-
受监管行业的人工智能部署因思维模式不匹配而失败
据《福布斯》报道,在受监管行业部署人工智能常常失败,原因是创业心态优先考虑速度而非必要的谨慎。许多人工智能项目之所以失败,是因为领导层将其视为孤立的 IT 实验,而不是从一开始就将其与核心运营和监管合规性相结合。此外,组织经常忽视强大数据基础的关键重要性,导致人工智能模型放大现有数据问题。最后,人为因素被低估,因为经验丰富的专业人士的抵制以及在如何批判性地评估人工智能输出方面的培训不足,都可能阻碍成功的采纳。
-
中国解放军公布装备激光的19型战车以应对台海冲突
在中国社交媒体上流传的图片似乎显示,19型两栖作战车辆的一个新变种装备了激光武器和先进传感器。这种改装车辆可能适用于反无人机防御,在台海冲突中可能成为一项重要资产,提供对抗无人机群的保护。专家指出,虽然激光系统在两栖作战中的有效性尚未完全确定,但其低运行成本使其成为对抗无人机攻击的吸引人选择。
-
播客讨论人工智能安全、数据泄露和Meta的全球战略
Ctrl-Alt-Speech播客讨论了近期人工智能和在线言论领域的几项发展。话题包括对一家销售超过1.53亿张驾照的服务进行的FBI调查,OpenAI旨在提供更安全学习环境的新ChatGPT for Teens计划,以及RAND对ChatGPT对年轻用户实际安全性的担忧。播客还讨论了人工智能安全设计和实施方面的全球差异,以及Meta在美国安全法规方面的做法与其国际产品供应的对比。
-
特朗普提议的联邦薪酬冻结引发人才流失担忧
唐纳德·特朗普总统提议的2027年预算包括冻结大多数联邦文职人员的薪酬,理由是通货膨胀发生在拜登政府期间。此举引发了联邦雇员工会和政策团体关于对员工留任、生产力和公共服务质量可能产生负面影响的警告。虽然军人计划获得加薪,但人们仍然担心,拒绝为空中交通管制员和税务审计员等文职职位加薪可能会导致机构知识和专业知识的流失。
-
兰德公司报告称,通过新的安全措施可管控人工智能生物武器风险
兰德公司的一份新报告概述了九种减缓人工智能生物武器风险的策略。报告强调了政府、科学界、公共卫生界和科技公司之间合作的必要性,以保护生物工具和数据。报告提出了一套相互强化的分层方法,包括管理信息访问、检测滥用和威慑恶意活动,同时平衡科学进步与安全关切。
-
美国军舰在南中国海失去动力,预示海军能力吃紧
美国海军的“本福德”号导弹驱逐舰在南中国海因工程故障导致四天断电。分析人士认为,此次事件发生在印太地区的例行行动中,可能表明长期行动,尤其是在对抗伊朗的行动中,正在消耗美国海军的储备能力。潜在的促成因素包括延迟维护和训练不足。