Loft
PulseAugur coverage of Loft — every cluster mentioning Loft across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的LOFT方法可在低维特征子空间中实现高效的机器遗忘
研究人员推出了一种新颖的机器遗忘方法LOFT,该方法在低维特征子空间中运行。该方法旨在从预训练模型中移除特定数据的影,同时保留模型在剩余数据上的性能。LOFT通过优化一个小的投影矩阵来实现这一点,仅需从预训练模型中进行一次特征提取即可,从而显著降低了计算开销,并在各种模型和数据集上展现出优越的遗忘性能。
-
分层稀疏注意力提升LLM长上下文推理速度和准确性
研究人员开发了分层稀疏注意力(Stratified Sparse Attention, SSA)框架,旨在提高大型语言模型在长上下文推理中的效率和准确性。SSA结合了高分标记的确定性检索和分数引导采样,以恢复丢失的注意力质量,其性能优于现有的稀疏注意力方法。该方法在各种基准测试和模型上持续提升性能,尤其是在极端稀疏性和非常长的上下文下,实现了显著的准确性提升和解码速度加快。
-
Mastodon 用户反思町田购物之旅和 DeNA 的 CS 胜利 · 跟踪 4 个来源
2026年10月17日,一位用户在 Mastodon 上记录了自己的一天,从健康和用药记录开始。他去了町田,在麦当劳休息了一下,然后逛了骏河屋和 Loft 等新店。用户注意到骏河屋朝日町店的桌游区有所减少。在体育方面,他讨论了 DeNA BayStars 队四连胜晋级日本系列赛,并对 CS(高潮系列赛)的必要性以及短系列赛中真正实力的概念发表了强烈看法。
-
LOFT框架通过任务感知支持选择增强参数高效微调
研究人员推出了一种新颖的低秩正交参数高效微调(PEFT)框架LOFT。该方法明确地将适应子空间与其中应用的变换分离开来,提供了一种包含现有正交PEFT技术的统一方法。LOFT的关键创新在于其由下游训练信号驱动的任务感知支持选择策略,从而提高了效率-性能权衡。