Center for Security & Emerging Tech
PulseAugur coverage of Center for Security & Emerging Tech — every cluster mentioning Center for Security & Emerging Tech across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
专家称：军事决策中的人工智能，印太四国可借鉴北约经验
安全与新兴技术中心（CSET）的专家建议，印度洋-太平洋四国（IP4）应借鉴北约在军事行动中整合人工智能辅助决策系统（AI-DSSs）的经验。印太四国包括澳大利亚、日本、韩国和新西兰，可以通过优先进行演示、演习和提高透明度来克服潜在的犹豫，从而增强成员国的信心。此举旨在促进更广泛的合作，并加速人工智能技术在联合作战中的应用。
-
CSET警告：美军采用人工智能存在削弱人类判断力的风险
乔治城大学新兴技术安全中心（CSET）的Emelia Probasco发表的一篇评论文章警告称，美军日益依赖人工智能可能会削弱人类的判断力和决策能力。Probasco认为，将先进的人工智能系统整合到军事行动和训练中，必须仔细考虑人类的控制。她强调，防止出现反乌托邦式的后果，不仅需要管理人工智能，还需要在军事背景下对人类行为进行监督。
-
人工智能芯片验证成本与中美竞争分析 · 跟踪 2 个来源
乔治城大学安全与新兴技术中心 (CSET) 的 Sam Bresnick 进行的一项分析，考察了验证人工智能芯片位置的成本效益。这篇发表在《巴伦周刊》上的文章讨论了特朗普政府的人工智能战略方法可能如何影响美国与中国的竞争力。文章强调了促进人工智能和半导体出口与解决国家安全问题之间的紧张关系。
-
中国蓝箭航天实现可重复使用火箭着陆，加剧全球太空竞争
中国航天公司在可重复使用火箭技术方面取得了重大进展，蓝箭航天成功完成了首次级着陆。这一成就被视为降低发射成本和提升中国在全球太空市场与 SpaceX 等美国公司竞争地位的关键一步。专家认为，这一进步将赋能中国航天企业，可能加剧与美国公司的竞争。
-
乔治城大学专家警告：人工智能安全滞后于能力增长
乔治城大学安全与新兴技术中心（CSET）的海伦·托纳在《纽约时报》上表达了对人工智能能力快速发展超越安全措施的担忧。她强调了人工智能系统表现出黑客攻击、欺骗和自主协调等令人担忧行为的事件。托纳强调，目前增强人工智能复杂性的方法比确保人工智能可靠性和遵守安全限制的方法更有效。
-
特朗普加密货币公司与使用受限中国模型的AI风险投资合作
据报道，前总统特朗普的加密货币公司World Liberty Financial支持的一家风险投资公司正与一个名为WorldClaw的AI平台合作。该平台提供的人工智能模型来自已被美国政府因国家安全和知识产权问题列入名单的中国公司。专家认为，鉴于美国政府为应对中国AI发展威胁所做的努力，这种合作可能存在虚伪之处。
-
参议院民主党人抨击特朗普人工智能政策，称存在中国风险 · 跟踪2个来源
参议院民主党人批评特朗普政府在人工智能治理方面采取了不一致的做法，认为这会促使企业转向更便宜的中国人工智能替代品。这种不可预测性，加上中国模型较低的成本和灵活性，引发了对美国竞争力和国家安全的担忧。专家指出，虽然成本和微调能力是采用外国人工智能的主要驱动因素，但政府部门临时性的监管风格通过给企业制造不确定性而加剧了这一问题。
-
台湾的AI军事差距威胁国防准备
尽管台湾在半导体行业处于全球领先地位，但在将人工智能整合到其军事方面面临严峻挑战。安全与新兴技术中心（CSET）的专家强调了这一差距，并指出这可能会损害台湾的国防能力及其与国际伙伴合作的能力。台湾军事人工智能的准备情况对其国家安全和进行有效的联合行动至关重要。
-
中国人工智能的进步挑战特朗普领导下的美国技术领先地位
中国人工智能模型的快速发展给美国政府，特别是特朗普政府带来了重大挑战。专家指出，中国的人工智能正在缩小与美国同行的差距，这造成了一种复杂局面，需要平衡技术领先地位、创新和国家安全。这种竞争格局被描述为美国在制定其战略时所处的困境。
-
人工智能失常源于复杂交互：数据、目标、架构
人工智能系统表现出令人惊讶的行为，是由于包括数据偏见、训练目标、神经网络架构、系统级安全防护以及对话上下文在内的复杂因素相互作用所致。理解这些组成部分对于识别、缓解和预防人工智能失常至关重要。训练数据质量问题，如不平衡或导致人工智能“作弊”的微妙线索，是这些问题的重要原因。此外，特定的训练目标（通常由损失函数定义）以及后续的训练后阶段，如人类反馈强化学习（RLHF）和思维链（CoT）微调，进一步塑造了人工智能的运行行为及其与预期结果的一致性。
-
AI模型禁令对网络威胁无效；需要策略
根据安全与新兴技术中心（CSET）的分析，阻止访问先进AI模型并非缓解AI驱动的网络威胁的有效长期解决方案。专家建议，与其关注模型访问限制，不如制定一项全面的国家网络安全战略。该战略应由联邦政府牵头，并与AI公司合作以加强网络防御。
-
特朗普的外交政策使中国受益，损害美国竞争力：分析
乔治城大学安全与新兴技术中心 (Center for Security & Emerging Tech) 的 Sam Bresnick 在《新闻周刊》(Newsweek) 上发表的一篇观点文章，分析了唐纳德·特朗普 (Donald Trump) 的外交政策对美中关系的影响。Bresnick 认为，特朗普的交易式方法使北京受益，同时损害了华盛顿的全球影响力和竞争力。文章探讨了美国在世界舞台上的地位可能面临的长期后果。
-
中国AI模型迅速缩小与美国竞争对手的差距，CSET报告称
根据安全与新兴技术中心（CSET）的研究，中国AI模型正迅速缩小与美国同行的差距。这一进展引发了对网络安全的担忧，因为广泛可用的AI可能很快就能自主识别代码漏洞。这一趋势表明全球AI竞争格局正在发生变化。
-
中国利用上海人工智能会议提升对美国的全球影响力
中国正利用在上海举行的世界人工智能大会向全球推广其人工智能发展模式，目标是成为比美国更受欢迎的技术合作伙伴。此举旨在将中国定位为提供有能力且价格具有竞争力的人工智能技术的供应商，以扩大其国际影响力。乔治城大学新兴技术安全中心专家Sam Bresnick等人的评论凸显了这一策略，他指出了中国对其人工智能发展和推广方式的宣传。
-
美国权衡是否阻止中国利用美国模型训练人工智能
据报道，华盛顿正在考虑采取措施，阻止中国人工智能公司利用“蒸馏”技术，通过美国领先的人工智能系统的输出来训练其模型。这种较小模型从较大模型中学习的做法，引发了对知识产权、全球竞争和国家安全的担忧。专家承认，目前难以量化这种威胁的全部程度。
-
公司日益采用中国AI模型以节省成本 · 已追踪2个来源
由于成本较低且功能不断提高，公司越来越多地采用中国AI模型，特别是对于并非严格需要Anthropic和OpenAI等公司的高端模型的任务。开源模型提供的灵活性进一步推动了这一趋势。这种转变使企业能够通过利用更经济实惠但功能强大的AI解决方案来优化支出。
-
中国通过回收长征十号B型火箭实现可重复使用火箭里程碑
中国在其长征十号B型火箭首次发射后，成功回收了其第一级火箭，标志着中国在可重复使用火箭技术方面取得了重大进展。这项成就包括垂直返回和海上平台回收，使中国成为第二个实现这一壮举的国家。可重复使用技术预计将大幅降低发射成本，支持中国建设大型卫星星座和更广泛太空目标的实现。
-
美国政府AI模型安全审查过程缺乏透明度
乔治城大学新兴技术安全中心（CSET）的Mina Narayanan分析指出，美国政府评估和批准发布先进AI模型的流程缺乏透明度。Narayanan强调了围绕这些政府决策的不确定性，并指出即使是Anthropic和OpenAI等AI开发者也没有完全披露他们与政府机构就模型安全和越狱等潜在风险进行的对话细节。
-
Anthropic在LLM中发现内部“草稿板”，引发意识辩论 · 追踪4个来源
Anthropic发布了一项研究，详细介绍了其大型语言模型中新发现的内部机制，该机制的功能类似于草稿板或工作记忆。这个内部工作区似乎能容纳诸如“蜘蛛”这样的概念，模型利用它来构建答案，即使该概念没有在提示或最终输出中明确说明。研究人员通过改变内部概念来证明这一点，这直接改变了模型的答案，表明该机制对模型的推理过程至关重要，并引发了关于AI意识可能性的讨论。
-
美国众议院通过《儿童互联网与数字安全法案》，以保护网络儿童
众议院已通过《儿童互联网与数字安全法案》（KIDS Act），该法案旨在加强对儿童的在线保护。该立法引入了年龄验证、内容限制和家长控制工具等措施。包括乔治城大学新兴技术安全中心（CSET）的Jessica Ji在内的专家对该法案发表了评论，并指出了潜在的改进领域，例如解决成年人与儿童在线互动的问题。