实体
Bo Ma
Bo Ma
PulseAugur coverage of Bo Ma — every cluster mentioning Bo Ma across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LLM框架解决了多用户系统中隐私-效用权衡问题
研究人员开发了新的框架和方法来解决大型语言模型(LLM)交互中的隐私问题。一种名为AIM的方法为多代理、多用户LLM环境引入了一个隐私感知内存系统,允许动态地将信息分类为私有或公共,以改善协调并保护敏感数据。另一项研究系统地分析了LLM交互中的隐私-效用权衡,提出了一种意图驱动的框架,该框架动态地清理数据以保持效用。此外,BodhiPromptShield为LLM代理管道提供了一个预推理中介层,在敏感跨度传播到系统之前检测并替换它们,…
-
COREY调度器优化Mamba SSM,但静态调优仍更快
研究人员开发了COREY,一种旨在优化Mamba选择性状态空间模型(SSM)性能的新运行时调度器。COREY将激活熵映射到分块大小,以提高选择性扫描内核的效率。尽管COREY在内核级别上显著降低了延迟,在消费级GPU上实现了高达4.41倍的提升,但由于调度开销,其端到端性能并未超过静态分块调优。