实体
Anima OS
Anima OS
PulseAugur coverage of Anima OS — every cluster mentioning Anima OS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的操作系统内核原语增强LLM安全检查
一种名为ProbeLogits的新型内核级操作已为AI原生操作系统开发，允许它们在生成token之前直接读取LLM的logit分布。该原语使操作系统能够在不需要单独的guard模型的情况下将代理行为分类为安全或危险，从而显著降低计算开销。在Qwen2.5-7B、Llama-3-8B和Mistral-7B等模型上的评估表明，在HarmBench和ToxicChat等基准测试上实现了高拦截率，性能与Llama Guard 3等现有guar…
-
Anima OS 推出 Elastic Gang，实现 CPU 上动态 LLM 推理
一篇新论文介绍了一种名为“Elastic Gang”的新方法，用于在 Anima OS 中的 CPU 上管理大型语言模型 (LLM) 推理。该系统允许分配给 LLM 推理的核心数量在处理每个 Token 之间动态变化，这与需要固定核心集数的传统方法不同。这种动态调整旨在通过允许通用操作系统进程在 LLM 未主动使用核心时利用它们，同时避免死锁或数据损坏，从而提高整体系统吞吐量。