来自DeepSeek-AI的一篇新论文提出使用图像作为输入大型语言模型上下文的更有效方式，声称一个图像令牌可以传达大约十个文本令牌的信息。这种方法在论文“DeepSeek-OCR：上下文光学压缩”中有详细介绍，表明成本显著降低和上下文处理能力提高。然而，早期的实际测试表明，虽然理论有前景，但目前的实现面临挑战，特别是在图像处理优化方面，这可能由于处理时间增加而抵消了潜在的令牌节省。 AI
影响 如果能够克服实际实施中的挑战，这项研究可能会带来更高效、更具成本效益的LLM交互。
排序理由 该集群讨论了一篇提出LLM上下文处理新方法的论文。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
⚠️ Takeaway: the theory is promising, the practice is immature. Image handling is not optimized yet, so token savings get eaten by wall-clock time. It depends on the use case — run your own tests instead of trusting the hype. https:// youtube.com/watch?v=Bbt8cEyzsTk # AI # contex…
🖼️ Can images replace text as LLM context? A # DeepSeek paper claims one image token carries ~10 text tokens of information at close to 100% accuracy, with 59-70% cost reduction reported by PixelPipe. ThePrimeagen put it to the test. # AI # LLM # contextengineering 🧵👇