实体
SmolLM2-1.7B
SmolLM2-1.7B
PulseAugur coverage of SmolLM2-1.7B — every cluster mentioning SmolLM2-1.7B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LoCA方法通过仅前向传播的方法大幅降低LLM调优成本 · 跟踪到2个来源
研究人员推出了一种新颖的两阶段参数高效大型语言模型微调方法,称为LoCA(局部信用分配)。该方法旨在通过用单次校准过程替换重复的端到端反向传播来降低计算需求。LoCA通过拟合Transformer块内的局部映射来纠正预测错误,然后用于仅前向传播调优。在Qwen2.5和SmolLM2-1.7B模型上的评估表明,与LoRA相比,LoCA可以带来更低的交叉熵、更低的GPU峰值使用量以及更低的CPU内存和每轮时间。
-
新的GASP方法可检测RAG系统中的句子级幻觉
研究人员开发了一种名为扰动感知基础的敏感性(GASP)的新方法,用于检测检索增强生成(RAG)系统中的幻觉。与提供单一分数的先前方法不同,GASP能够识别答案中未被检索到的证据支持的特定句子。该技术衡量当支持性上下文被移除时,句子可能性的变化程度,从而区分基础内容和幻觉内容。