PulseAugur
中
实时 10:40:15
实体 quantized large language models

quantized large language models

PulseAugur coverage of quantized large language models — every cluster mentioning quantized large language models across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_275156 ·

    新的MOMAT框架增强了边缘LLM的安全性和效率

    研究人员开发了MOMAT，一个新颖的硬件增强框架，旨在提高部署在低功耗边缘设备上的量化大语言模型（qLLM）的安全性。该系统采用多图混合（Mixture of Multiple Atlases）方法，结合结构化知识检索和专用加速器来防御越狱攻击。与传统的基于DRAM的方法相比，MOMAT显著加快了提示处理速度，并大幅降低了能耗，使得边缘LLM既更安全又更节能。