实体
DeBERTaV3
DeBERTaV3
PulseAugur coverage of DeBERTaV3 — every cluster mentioning DeBERTaV3 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的 SQUELCH 方法优化 LoRA 以用于 LLM,提升性能
研究人员推出了一种新颖的低秩自适应 (LoRA) 优化方法 SQUELCH,用于大型语言模型。SQUELCH 基于噪声地板分析动态调整每个 token 的活跃 LoRA 组件数量,而不是使用固定数量。这种方法不增加可训练参数,在常识推理、知识、数学、代码和 GLUE 等各种基准测试中,相比标准 LoRA 提升了 2.2-3.2 个点,相比其他专家混合基线提升了 0.8-1.2 个点。该方法在 LLaMA-3.1-8B、Qwen3 和 …
-
大型语言模型评估教师模拟对话分析
研究人员评估了各种大型语言模型(LLMs)在自动分析教师教育数字模拟中的对话提示方面的性能。该研究比较了 DeBERTaV3、Llama 3、Phi-4-mini 和 Qwen-3 等模型,并采用了零样本、少样本和微调方法。研究结果表明,与 DeBERTaV3 相比,Llama 3 在识别新特征方面表现出更稳定的性能和更强的能力,使其成为需要适应性分析的模拟的推荐选择。
-
AI模型从视频面试中评估人格和认知能力
研究人员开发了一种使用冻结多模态嵌入从异步视频面试中评估人格和认知能力的方法。他们的方法利用了CLIP和Whisper等预训练模型来处理视觉、听觉和文本数据,避免了完全微调。该技术在人格特质预测方面取得了改进的结果,并突显了认知能力评估中潜在的数据集捷径。