实体
Nomic
Nomic
PulseAugur coverage of Nomic — every cluster mentioning Nomic across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
关系
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
llama-server 路由为所有 GPU 分配 CUDA 上下文，导致 OOM 错误
r/LocalLLaMA 子版块的一位用户在使用 llama-server 路由模式时遇到了一个问题：每个模型实例，即使被固定到特定 GPU，也会在所有可用 GPU 上分配 CUDA 上下文。这种行为会导致运行多个模型时出现内存不足 (OOM) 错误，特别是当一个大模型消耗了某些卡上的大部分显存时，导致较小的模型无法在其他 GPU 上初始化其上下文。用户正在寻求解决方案，例如特定的标志或配置，以防止在未使用的 GPU 上分配上下文，或…
-
LLM社会在中等规模下展现出集体适应的最佳表现
研究人员调查了由大型语言模型（LLM）组成的AI社会中的集体适应和治理。他们使用可自我修正的游戏Nomic进行研究，发现集体适应能力并非随着模型规模的增大而持续提升。相反，LLM在中等规模下表现出最有效的规则采纳、多样化的修正和平衡的共识。较小的模型在规则制定方面基本不活跃，而较大的模型则倾向于限制性投票或僵局，尤其是在混合规模的群体中。