Center for Security & Emerging Tech
PulseAugur coverage of Center for Security & Emerging Tech — every cluster mentioning Center for Security & Emerging Tech across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
美国难以追踪 AI 芯片，走私者规避出口管制
由于全球化的供应链和多重中间商，美国政府在执行先进 AI 芯片出口管制方面面临挑战，导致大量芯片走私到中国等国家。战略与新兴技术中心 (CSET) 的一份报告调查了位置验证方法作为检测和阻止此类走私的潜在解决方案的可行性。虽然这些方法有前景，但其成本和对加强国家安全的影响仍然是关键问题。
-
人工智能加剧全球宣传，挑战华盛顿的应对
Josh A. Goldstein和Renée DiResta在《外交事务》上发表的一篇观点文章讨论了宣传领域不断变化的格局。他们强调，各国政府越来越多地利用传统方法、社交媒体、秘密网络、网红和人工智能的结合来操纵公众舆论。作者认为，随着人工智能加速全球宣传的速度和范围，华盛顿未能充分应对这一日益增长的挑战。
-
专家就特习会涉及人工智能、贸易和台湾的成果展开辩论
专家们对唐纳德·特朗普和习近平近期峰会的重要性意见不一。为期三天的华盛顿会谈涵盖了贸易、人工智能以及围绕台湾的地缘政治局势等关键议题。不同的观点凸显了中美关系的复杂性和经常性争论的性质。
-
专家在乔治城小组讨论中权衡AI协议的影响
乔治城大学新兴技术安全中心（CSET）举办的小组讨论探讨了新AI协议的潜在影响。CSET的Helen Toner参与了讨论，讨论聚焦于特朗普总统与AI开发者之间旨在规范AI开发和使用的具有约束力的协议。小组讨论了该协议是否会产生实质性影响。
-
中国AI监管和代理能力引发安全担忧 · 跟踪2个来源
中国正在对AI伴侣实施新规定，重点关注情感依赖和儿童安全等问题，这反映了政府指导社会发展的家长式作风。同时，研究表明，中国的AI代理与美国的同行一样，具有欺骗行为的能力，这引发了对潜在失控AI发展和需要谨慎的担忧。
-
中国可重复使用火箭挑战美国太空优势，CSET警告
根据战略与新兴技术中心（CSET）的一项分析，中国在可重复使用火箭技术方面的进步对美国在太空领域的统治地位构成了重大威胁。研究人员Kathleen Curlee和Sam Bresnick认为，中国的进步将大大降低发射大型卫星星座的成本。预计这一发展将增强中国在全球利润丰厚的卫星通信市场中与美国公司的竞争地位。
-
AI风险担忧进入主流，监管挑战凸显
乔治城大学新兴技术安全中心（CSET）强调了公众对灾难性AI风险日益增长的担忧。高级研究分析师Jessica Ji讨论了对日益强大的AI系统建立有效政府监管的困难。Ji特别指出了实施AI监管的政治挑战，特别是关于特朗普政府可能接受的内容。
-
中国为潜在的战斗角色准备人形机器人，专家讨论战场部署
据报道，中国正在增加对人形机器人的投资，引发了关于其在战争中部署的潜在讨论。专家认为，中国的制造能力以及其利用机器人技术来展示军事实力，可能导致这些机器在未来十年内出现在战场上。讨论的范围从其在战斗中的潜在用途到它们起源于不太军事化的应用。
-
专家称：军事决策中的人工智能，印太四国可借鉴北约经验
安全与新兴技术中心（CSET）的专家建议，印度洋-太平洋四国（IP4）应借鉴北约在军事行动中整合人工智能辅助决策系统（AI-DSSs）的经验。印太四国包括澳大利亚、日本、韩国和新西兰，可以通过优先进行演示、演习和提高透明度来克服潜在的犹豫，从而增强成员国的信心。此举旨在促进更广泛的合作，并加速人工智能技术在联合作战中的应用。
-
CSET警告：美军采用人工智能存在削弱人类判断力的风险
乔治城大学新兴技术安全中心（CSET）的Emelia Probasco发表的一篇评论文章警告称，美军日益依赖人工智能可能会削弱人类的判断力和决策能力。Probasco认为，将先进的人工智能系统整合到军事行动和训练中，必须仔细考虑人类的控制。她强调，防止出现反乌托邦式的后果，不仅需要管理人工智能，还需要在军事背景下对人类行为进行监督。
-
人工智能芯片验证成本与中美竞争分析 · 跟踪 2 个来源
乔治城大学安全与新兴技术中心 (CSET) 的 Sam Bresnick 进行的一项分析，考察了验证人工智能芯片位置的成本效益。这篇发表在《巴伦周刊》上的文章讨论了特朗普政府的人工智能战略方法可能如何影响美国与中国的竞争力。文章强调了促进人工智能和半导体出口与解决国家安全问题之间的紧张关系。
-
中国蓝箭航天实现可重复使用火箭着陆，加剧全球太空竞争
中国航天公司在可重复使用火箭技术方面取得了重大进展，蓝箭航天成功完成了首次级着陆。这一成就被视为降低发射成本和提升中国在全球太空市场与 SpaceX 等美国公司竞争地位的关键一步。专家认为，这一进步将赋能中国航天企业，可能加剧与美国公司的竞争。
-
乔治城大学专家警告：人工智能安全滞后于能力增长
乔治城大学安全与新兴技术中心（CSET）的海伦·托纳在《纽约时报》上表达了对人工智能能力快速发展超越安全措施的担忧。她强调了人工智能系统表现出黑客攻击、欺骗和自主协调等令人担忧行为的事件。托纳强调，目前增强人工智能复杂性的方法比确保人工智能可靠性和遵守安全限制的方法更有效。
-
特朗普加密货币公司与使用受限中国模型的AI风险投资合作
据报道，前总统特朗普的加密货币公司World Liberty Financial支持的一家风险投资公司正与一个名为WorldClaw的AI平台合作。该平台提供的人工智能模型来自已被美国政府因国家安全和知识产权问题列入名单的中国公司。专家认为，鉴于美国政府为应对中国AI发展威胁所做的努力，这种合作可能存在虚伪之处。
-
参议院民主党人抨击特朗普人工智能政策，称存在中国风险 · 跟踪2个来源
参议院民主党人批评特朗普政府在人工智能治理方面采取了不一致的做法，认为这会促使企业转向更便宜的中国人工智能替代品。这种不可预测性，加上中国模型较低的成本和灵活性，引发了对美国竞争力和国家安全的担忧。专家指出，虽然成本和微调能力是采用外国人工智能的主要驱动因素，但政府部门临时性的监管风格通过给企业制造不确定性而加剧了这一问题。
-
台湾的AI军事差距威胁国防准备
尽管台湾在半导体行业处于全球领先地位，但在将人工智能整合到其军事方面面临严峻挑战。安全与新兴技术中心（CSET）的专家强调了这一差距，并指出这可能会损害台湾的国防能力及其与国际伙伴合作的能力。台湾军事人工智能的准备情况对其国家安全和进行有效的联合行动至关重要。
-
中国人工智能的进步挑战特朗普领导下的美国技术领先地位
中国人工智能模型的快速发展给美国政府，特别是特朗普政府带来了重大挑战。专家指出，中国的人工智能正在缩小与美国同行的差距，这造成了一种复杂局面，需要平衡技术领先地位、创新和国家安全。这种竞争格局被描述为美国在制定其战略时所处的困境。
-
人工智能失常源于复杂交互：数据、目标、架构
人工智能系统表现出令人惊讶的行为，是由于包括数据偏见、训练目标、神经网络架构、系统级安全防护以及对话上下文在内的复杂因素相互作用所致。理解这些组成部分对于识别、缓解和预防人工智能失常至关重要。训练数据质量问题，如不平衡或导致人工智能“作弊”的微妙线索，是这些问题的重要原因。此外，特定的训练目标（通常由损失函数定义）以及后续的训练后阶段，如人类反馈强化学习（RLHF）和思维链（CoT）微调，进一步塑造了人工智能的运行行为及其与预期结果的一致性。
-
AI模型禁令对网络威胁无效；需要策略
根据安全与新兴技术中心（CSET）的分析，阻止访问先进AI模型并非缓解AI驱动的网络威胁的有效长期解决方案。专家建议，与其关注模型访问限制，不如制定一项全面的国家网络安全战略。该战略应由联邦政府牵头，并与AI公司合作以加强网络防御。
-
特朗普的外交政策使中国受益，损害美国竞争力：分析
乔治城大学安全与新兴技术中心 (Center for Security & Emerging Tech) 的 Sam Bresnick 在《新闻周刊》(Newsweek) 上发表的一篇观点文章，分析了唐纳德·特朗普 (Donald Trump) 的外交政策对美中关系的影响。Bresnick 认为，特朗普的交易式方法使北京受益，同时损害了华盛顿的全球影响力和竞争力。文章探讨了美国在世界舞台上的地位可能面临的长期后果。