实体
HPC Systems
HPC Systems
PulseAugur coverage of HPC Systems — every cluster mentioning HPC Systems across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的安全运行时Enclawed增强了HPC系统上LLM代理的安全性
研究人员开发了Enclawed,这是一种新颖的确定性安全运行时,旨在提高在高性能计算(HPC)系统上运行的大型语言模型(LLM)代理的安全性。该系统解决了现有HPC环境中受损控制主机的关键漏洞,这可能导致重大的资源浪费甚至危险的后果。Enclawed利用硬件信任根Enclaweder,确保只执行符合策略的操作,并防止恶意行为者伪造关键安全数据。
-
新研究详细介绍了生成式AI模型的性能优化
一篇新研究论文详细介绍了对生成式AI模型(包括LLM和扩散模型)的性能进行优化和比较的系统性研究。该研究解决了部署挑战,如高内存需求、延迟、计算需求和硬件成本,尤其是在异构平台上。它引入了一种新颖的混合精度训练后量化评估方法,并在现代HPC系统和先进加速器上评估了性能。
-
新的KD方法将HPC训练速度提升67% · 跟踪2个来源
研究人员开发了一种新的知识蒸馏(KD)方法,该方法优化了高性能计算(HPC)系统上师生模型的划分。与TRL库中的对称处理不同,该方法解耦了划分过程,利用了模型之间内存占用和通信需求的差异。新方法通过避免冗余数据结构和选择最优划分策略,实现了高达67%的每秒样本数,显著加快了在生产HPC集群上的训练速度。