实体
Kwai Summary Attention
Kwai Summary Attention
PulseAugur coverage of Kwai Summary Attention — every cluster mentioning Kwai Summary Attention across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM平台通过多模态评估模拟面试
研究人员开发了PolyInterview，一个由LLM驱动的平台，旨在模拟真实的求职面试练习。该系统根据特定的职位描述和候选人的简历生成定制化问题，与数字人类面试官进行多轮口语面试，并提供全面的多模态评估。这些评估包括对回答内容、语音语调和非语言行为的评价，并将分数与行为证据和可操作的建议联系起来。
-
Kwai Summary Attention 压缩历史上下文以实现高效长上下文 LLM
研究人员推出了一种新颖的注意力机制 Kwai Summary Attention (KSA)，旨在解决大型语言模型中标准 softmax 注意力的二次时间复杂度问题。KSA 旨在通过将历史上下文压缩成可学习的摘要 token 来维持 KV 缓存与序列长度之间的线性关系。这种方法试图在内存成本与有效保留长距离依赖性之间取得平衡，为现有方法（如减少 KV 缓存或使用对 KV 缓存友好的架构）提供了替代方案。