lexical analyzer generator
PulseAugur coverage of lexical analyzer generator — every cluster mentioning lexical analyzer generator across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的STEAM方法提高了多语言LLM水印的鲁棒性
一篇新研究论文介绍了一种名为STEAM的方法，旨在提高大型语言模型（LLM）多语言水印的鲁棒性。由于分词器词汇量的限制，现有方法在资源较少的语言上测试时常常失败。STEAM利用贝叶斯优化来选择最佳的回译语言，增强了水印强度，并在多种语言的检测准确性方面取得了显著的提升。
-
工程师指南：理解 LLM 的数学之外的行为
本文旨在为工程师提供对大型语言模型（LLM）如何运作的实际理解，侧重于心智模型而非复杂的数学。文章解释说，LLM 本质上是在预测序列中的下一个词元（token），而涌现的智能就源于这个过程数十亿次的重复。文章详细介绍了从提示（prompt）到词元化（tokenization）、模型前向传播（model forward pass）、采样（sampling）和反词元化（detokenization）的推理流程的核心组成部分，以帮助工程师理…
-
DeepSeek 的 Engram 模块实现了 Tokenizer 无关性
研究人员在 DeepSeek 的原始设计基础上，为大型语言模型开发了一个 Tokenizer 无关的 Engram 模块。新方法用多项式哈希取代了基于 XOR 的哈希，创建了一个联合嵌入空间，允许 Engram 嵌入在具有不同 Tokenizer 的模型之间重用。此修改实现了字节等价 Token 序列的哈希等价性，在保持可比性能的同时提高了 Engram 嵌入的可重用性。
-
开发者详述构建LLM驱动的Telegram机器人的六年历程
一位开发者详述了创建一款能够响应用户消息、识别图像和语音，并保持对话和用户历史上下文的Telegram机器人的六年历程。该机器人利用大型语言模型（LLM）、检索增强生成（RAG）和向量数据库来实现其功能。开发者分享了关于教会机器人记住用户以及使用PostgreSQL实现RAG和向量搜索的见解。