实体
31B model
31B model
PulseAugur coverage of 31B model — every cluster mentioning 31B model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
LLM驱动的演进式搜索增强了生成式检索系统
研究人员开发了一个新颖的框架，利用LLM驱动的演进式程序搜索来增强生成式检索（GR）系统。该方法解决了优化语义标识符（SID）的离散、相互依赖组件的挑战，这些组件不易通过梯度进行微调。通过使用一个31B模型进行组件变异，以及一个1M参数的代理解码器进行快速反馈，该系统在基准数据集上显著提高了检索性能。
-
用户在 Reddit 上为 31B 模型寻求预算 GPU 升级
Reddit r/LocalLLaMA 版块的一位用户正在寻求关于升级其 AI 服务器的建议，以便以至少每秒 15 个 token 的速度运行具有 16K 上下文窗口的 31B 参数模型。他目前的配置包括一个 Intel i5-14400F CPU、一块 RTX 3060 12GB GPU 和 32GB RAM，但对于他期望的性能来说速度太慢了。该用户正在考虑添加一块新的 RTX 5060 Ti 16GB GPU 并利用层分割，但担心…
-
ML从业者使用对比性SFT绘制AI模型电路
一位机器学习从业者正在探索一种新颖的方法，通过绘制不同能力之间的因果依赖关系来理解和控制AI模型的行为。该方法涉及使用对比性监督微调（SFT）来分离310亿参数模型中的特定电路。通过训练强调或弱化某些维度的变体，然后消融已识别的电路，该从业者旨在构建一个模型能力的因果依赖图。该图随后可用于指导未来模型开发的最佳训练顺序，并增强行为控制。