实体
Xiangyu Zeng
Xiangyu Zeng
PulseAugur coverage of Xiangyu Zeng — every cluster mentioning Xiangyu Zeng across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的HiCI模块将LLaMA-2的上下文扩展到10万个token
研究人员开发了一种名为HiCI（分层构建-集成）的新型注意力模块，旨在改进长上下文语言建模。该模块显式地分层构建信息，构建片段级表示，将它们集成到全局上下文中，然后广播该上下文以条件化注意力。当以极少的参数添加应用于LLaMA-2时，HiCI将上下文窗口扩展到10万和6.4万个token，在各种基准测试中显示出一致的改进。
-
Video-o3框架通过迭代式线索探寻增强长视频推理能力
研究人员开发了Video-o3，一个旨在通过迭代式发现相关视觉线索和细粒度检查关键片段来提高长视频理解能力的新框架。该系统通过使用任务解耦注意力掩码（Task-Decoupled Attention Masking）来分离推理和工具调用，同时保留全局上下文，从而解决了多模态模型在工具调用方面面临的挑战。为了管理上下文长度并提高效率，它采用了可验证轨迹引导奖励（Verifiable Trajectory-Guided Reward）机制…