实体
Roy Rinberg
Roy Rinberg
PulseAugur coverage of Roy Rinberg — every cluster mentioning Roy Rinberg across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新基准量化 AI 模型干预的意外副作用
研究人员开发了 RippleBench-Maker,一个旨在识别和量化针对性干预对语言模型涟漪效应的自动化流程。该系统利用维基百科等现有知识库,生成与源概念在不同语义距离的问题。当应用于 Llama3-8B-Instruct 等模型的八种不同的遗忘方法时,该系统显示准确性下降在目标概念附近最大,并随着语义距离的增加而减小。值得注意的是,这些涟漪效应的传播特征在不同的基础模型中被发现是一致的,这表明它们是遗忘方法本身的属性。
-
LLMs 助力文本压缩实现巨大突破
研究人员开发了新的方法来压缩大型语言模型(LLMs)生成的文本,在无损和有损压缩方面都取得了显著的进步。通过调整 LoRA 适配器以实现无损压缩,他们将基于 LLM 的算术编码的性能提高了一倍。对于有损压缩,引入了一种名为问答(QA)压缩的新型交互式协议,其中一个较小的模型向一个较大的模型提出是/否问题以优化其响应。这种 QA 方法实现了比以前基于 LLM 的技术小 100 多倍的压缩比,有效地以最少的数据转移了知识。