Luhn's 1958 heuristic

新研究探讨AI对齐和上下文压缩方法 · 跟踪3个来源

一篇新的arXiv论文探讨了在语言模型中评估上下文压缩的方法，超越了传统的准确性指标。该研究提出使用自然化的社会高亮作为非循环参考，其中多人标记重要段落。通过控制句子位置和长度，研究发现语言模型的重要性排名在识别高亮句子方面与人类读者相当，优于朴素截断方法。另一篇论文在一个农场游戏模拟中，使用演化博弈论框架研究AI代理的交互式对齐，以评估宪法原则如何维持与人类福祉的长期对齐。