实体
arithmetic coding
arithmetic coding
PulseAugur coverage of arithmetic coding — every cluster mentioning arithmetic coding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的上下文解码框架增强文本传输鲁棒性
研究人员开发了一种新颖的上下文解码（ICD）框架，旨在增强文本传输的独立信源信道编码（SSCC）的鲁棒性。这种接收端方法利用纠错码Transformer（ECCT）来评估解码比特的可靠性。然后，系统通过执行可靠性引导的比特翻转来生成候选重构池，从中进行采样，并采用基于大型语言模型的算术解码器来生成最终输出及其相关的对数似然度。实验表明，在各种具有挑战性的信道条件下，ICD的性能始终优于传统的SSCC方法和一些联合信源信道编码（JSCC）方案。
-
LLM实现通过熵编码的实时文本传输
研究人员探索了使用基于LLM的熵编码进行实时文本传输的学习、预测和压缩之间的联系。他们分析了在固定速率信道上，当因果语言模型预测符号进行编码时，压缩效率与传输延迟之间的权衡。该研究比较了包括霍夫曼编码、算术编码和rANS在内的各种编码方案，发现霍夫曼编码由于其零算法延迟，适用于过度配置的信道，而算术编码则以延迟为代价提供更好的压缩效果。这些发现通过从GPT-2 (124M)到Llama 3.2 (3B)的模型进行了验证，表明更大的模型…