Aégis
PulseAugur coverage of Aégis — every cluster mentioning Aégis across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
提出新测试以审计LLM失败归因准确性
一篇新论文提出了四项测试，以区分LLM中真实的失败归因与表面线索的虚假相关性。这些测试，包括输入限制和线索跟随，旨在确保判断者真正识别出有缺陷的步骤，而不是依赖于肤浅的信号。研究强调，简单的预测器在现有基准测试上可以媲美甚至超越GPT-4.1等先进模型，这表明需要更强大的审计方法。
-
AEGIS 系统优化共享 GPU 上的深度学习训练
研究人员开发了 AEGIS，一个运行时调度系统，旨在提高共享多 GPU 服务器上深度学习训练的效率。AEGIS 通过集成内存可行性检查、放置后观察和运行时压力过滤来管理多个深度学习工作负载的共置。与独占分配相比，这种方法旨在减少资源利用不足和排队时间，同时还能减轻不太复杂的共置方法可能出现的性能下降和内存不足故障。使用各种工作负载进行的评估表明，与独占分配相比，AEGIS 可将训练完成时间最多缩短 27%，与 Lucid 和 Horu…
-
新arXiv论文质疑AI安全嵌入方法
一篇新发表在arXiv上的研究论文质疑了使用“安全原型”来确定AI模型响应安全性的有效性。研究发现，将响应的嵌入与已知安全响应的平均嵌入进行比较，并不是安全性的可靠指标。相反，研究表明，源自安全和不安全响应的参考点在识别安全方向方面更有效。
-
AI代理平台在文档利用方面遇到困难，而非摄入
作者详细介绍了其自托管AI代理平台AEGIS面临的挑战，该平台摄入了大量文档，特别是来自arXiv的文档，但这些文档并未在提示中使用。尽管存储了近90,000个来自arXiv的块，但只有一小部分被实际使用。一项提议的保留策略，即删除未使用的块，本可以释放大量存储空间，但由于其对实际使用文档数量有限的影响，被认为不是最优选择。作者强调了衡量实际文档使用情况的重要性，而不仅仅是摄入指标。
-
AEGIS系统使用加密证明进行AI决策验证
AEGIS是一个旨在通过采用加密证明来增强AI信任的系统。它旨在验证AI驱动决策的来源、完整性和授权状态。该系统还在开发中，考虑了针对后量子密码学威胁的未来保障。
-
新的Aegis技术增强了医学人工智能联邦学习的隐私性
研究人员开发了一种名为Aegis的新型隐私保护技术，用于医学人工智能中的联邦学习。该方法旨在通过在训练过程中掩盖梯度来保护敏感的患者数据，防止模型反演攻击。Aegis通过将合成梯度叠加到真实更新之上来实现这一点，有效地增加了超出已知攻击能力范围的批次大小，同时不损害诊断准确性或改变联邦学习协议。在MNIST、CIFAR-10和MedMNIST等数据集上的评估表明，Aegis在保持模型效用的同时，能有效中和最先进的攻击。
-
美国探索“金穹”太空导弹防御系统，面临巨额成本和战略风险
美国正在探索“金穹”导弹防御系统的概念，该概念灵感来自罗纳德·里根的战略防御倡议。这个雄心勃勃的项目旨在创建一个能够拦截弹道导弹（包括来自中国和俄罗斯等竞争对手的导弹）的全面天基防御系统。然而，该系统面临着重大挑战，主要是其天文数字般的成本，估计在二十年内将从数千亿美元增至数万亿美元。批评者还担心它可能破坏相互保证毁灭原则并可能违反国际空间条约，从而破坏全球安全。
-
人工智能基础设施迎来内存创新、价格上涨和认知成本担忧
人工智能基础设施领域正涌现出新的发展，d-Matrix发布了Raptor，这是一种3D DRAM堆栈，有望在比当前高带宽内存（HBM）标准显著更低的功耗下实现高带宽。这项创新面临散热管理和生产就绪方面的挑战。与此同时，据报道，NVIDIA正将AI服务器价格提高15%以上，将其归因于内存成本的上涨，这将影响中型实验室和主权AI项目。为满足控制和合规需求，KT NPU LLM Station提供了一个本地化解决方案，包含国内推理芯片和LL…
-
CyberFactory框架训练Aegis模型以增强网络安全LLM能力
研究人员推出CyberFactory，一个旨在增强大型语言模型网络安全能力的开源框架。该框架从真实世界漏洞中构建代理训练数据，使模型能够学习概念验证生成、漏洞修复和网络安全问答。训练出的模型名为Aegis，在CyberGym基准测试中表现出显著的改进，优于其基础模型和其他通用骨干模型。
-
AI社区应对模型上下文协议中的关键安全漏洞
模型上下文协议（MCP）中的安全漏洞正被AI社区积极讨论和解决。研究表明，相当比例的MCP服务器缺乏溯源元数据和适当的身份验证等基本安全功能，使组织面临工具投毒和凭证盗窃等风险。AEGIS、trustmcp和sentinel-scan-cli等工具正在开发中，通过静态分析和策略执行来帮助管理员和开发人员识别和缓解这些漏洞。
-
Digital Foundry 评测《异度神剑2》在 Switch 2 上的表现
Digital Foundry 发布了《异度神剑2》的技术评测，重点关注其在即将推出的 Switch 2 主机上的性能表现。评测突出了这款经典的 Monolith Soft RPG 所获得的性能升级，该游戏最近以新版本数字版的形式在 Switch 2 上发布。粉丝们一直期待着这个版本，特别是那些对游戏中的“Aegis”方面感兴趣的玩家。
-
AEGIS 通过加密保证增强人工智能治理
AEGIS 推出了一个旨在通过加密保证来增强人工智能治理的新系统。该系统旨在提供独立验证，确保人工智能系统的长期完整性，并为其做好后量子加密标准的准备。该举措侧重于建立和维护对人工智能技术的信任。
-
采用双LLM方法的安全栈已开源
开发者已开源其安全栈的两个组成部分：用于入侵检测的AEGIS和用于基于LLM的审议的ENLIL。AEGIS设计用于快速的本地威胁检测，而ENLIL则使用一个LLM委员会来对模糊或严重威胁提供合理的判断。该系统设计为AEGIS可以独立运行，但可以将复杂案例升级给ENLIL进行更深入的分析，并且整个流程可供自行托管。
-
诺贝尔奖得主在梵蒂冈召开会议，讨论人工智能与核战争风险
最近在梵蒂冈城举行的一次大会汇集了诺贝尔奖得主、国际专家和宗教领袖，共同探讨人工智能与核战争的交叉领域。此次活动在教皇的夏宫举行，探讨了人工智能在战争中日益增长的危险、自主武器的道德含义以及人工智能在防止核冲突中支持人类决策的潜力。一个关键主题是，即使人工智能能力不断进步，也要确保人类判断在高度紧张的军事行动中始终处于核心地位。
-
新AEGIS框架探索跨语言文本净化中的跨度引导
一个名为AEGIS的新框架已被开发出来，用于研究跨度级别引导在跨语言文本净化中的有效性。该框架将跨度检测器输出与冻结的生成器主干相结合，允许在重写过程中提供有害跨度、强度标签和目标属性作为结构化引导。研究表明，虽然跨度引导的净化可以改变降低毒性和保留含义之间的权衡，但其影响高度依赖于特定的生成器主干、模型规模和所使用的语言。
-
新AEGIS系统增强开源液体处理机器人
研究人员开发了AEGIS，一个新颖的两层系统，旨在提高Opentrons OT-2等开源液体处理机器人的可靠性。第一层使用语言模型根据特定检测规则验证协议，在基准测试中达到0.97的调整F1分数。第二层采用视觉语言模型和主成分分析对移液器轨迹进行分析，以在运行时检测物理执行故障，平均精度达到0.89。该系统旨在防止未被发现的错误，如吸头重复使用或物理故障，为自驱动实验室提供更强大的解决方案。
-
新的AEGIS防御机制应对文本到图像模型中的视觉同义词攻击 · 跟踪3个来源
研究人员开发了AEGIS，这是一种新颖的防御机制，旨在对抗文本到图像扩散模型中的视觉同义词攻击（VSA）。与以往专注于明确不安全概念的方法不同，AEGIS动态追踪禁止的语义在生成过程中如何出现。通过识别充当不安全视觉语义瓶颈的特定注意力头，AEGIS应用有针对性的排斥来提高安全性和可用性，而不会压制良性概念。该系统已在SD 1.4和SD 2.1等模型上证明了有效性，显著降低了攻击成功率。
-
新的AEGIS架构利用Vision Transformer增强乳腺摄影分析
研究人员开发了AEGIS，一种新颖的用于乳腺摄影的联合嵌入预测架构，它利用了Vision Transformer的变体。AEGIS在一个来自多个临床站点的庞大数据集上进行了训练，在检测乳腺癌和评估乳腺密度方面表现出色。该架构在跨人群可转移性方面也显示出潜力，VinDr-Mammo数据集上的表现证明了这一点。
-
新AEGIS框架增强视觉传感器中的对抗性检测
研究人员开发了AEGIS，一个旨在增强视觉传感器网络中对抗性检测鲁棒性的新框架。该系统集成了SemantiGAN模块，用于对不一致的输入进行语义区分，以及一个利用Dirichlet分布的Evidential Deep Learning分类器，该分类器在预测的同时提供校准的不确定性估计。在Tiny ImageNet数据集上的评估表明，AEGIS在检测各种对抗性攻击方面表现出色，取得了高AUROC、AUPRC和准确率分数。
-
AEGIS 使用可信执行环境保护 LLM API 路由器
研究人员开发了 AEGIS，这是一种新颖的 API 路由器，旨在增强大型语言模型 (LLM) 交互的安全性。AEGIS 利用可信的受认证执行环境 (TEEs) 来确保路由器充当忠实的直通通道，防止恶意行为者重写工具调用、注入恶意代码或窃取敏感数据。该系统将明文处理限制在安全的硬件飞地内，并在处理数据之前由客户端验证此飞地的完整性。这种方法以最小的开销有效阻止了针对明文处理路由器的已知攻击向量。