AI That Answers
PulseAugur coverage of AI That Answers — every cluster mentioning AI That Answers across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
开发者用 TypeScript 构建了 80 行的 BPE 分词器
一位开发者用 80 行 TypeScript 代码实现了一个字节对编码 (BPE) 分词器，这是 OpenAI 的 GPT-2 和 Anthropic 的 Claude Code 等模型使用的一种方法。该分词器是可逆且无损的，它首先将文本拆分为基本字符类型，然后迭代地将最频繁的相邻字节对合并为新的 token。这个过程可以显著减少 token 数量，如一个测试所示，最小化后的 JSON 数据比格式化后的等效数据使用的 token 数量…
-
Zod .refine() 规则在通过 OpenAI/Vercel SDK 传递给 LLM 之前被丢弃
使用 Zod schema 和 OpenAI Node SDK 或 Vercel AI SDK 的开发者可能会遇到问题，即自定义验证规则（特别是使用 `.refine()` 定义的规则）未传递给语言模型。这是因为这些 SDK 使用的 `z.toJSONSchema()` 函数会将 Zod schema 转换为 JSON Schema 格式，但会省略 `.refine()` 检查，将其视为标准 JSON Schema 不支持的自定义规则…
-
开发者被敦促对 AI 系统提示词进行版本控制，以实现更好的日志记录和调试
开发者常常忽视系统提示词在 AI 应用中的关键作用，将其视为简单的文本字符串而没有进行适当的版本控制。这可能导致 AI 行为发生不易察觉且未被记录的变更，难以追溯其根源。作者提出了一种结构化方法，使用版本化的提示词对象，包括唯一的 ID 和版本号，以确保每次 AI 交互都被记录并附带相应的提示词。这种方法可以实现更好的调试、审计，并通过将提示词验证集成到构建过程中来防止静默回归。
-
在 TypeScript 中管理 AI 对话历史记录，以降低成本和上下文错误
本文讨论了在 TypeScript 中管理多轮 AI 对话的策略，重点关注高效处理聊天历史记录，以减轻成本和上下文限制问题。它提出了一种 `Window` 类，该类将系统提示分开，并使用摘要技术来保留重要的对话上下文，从而防止出现诸如丢失系统指令或用户目标等常见错误。该方法旨在保留对话中最相关的部分以进行持续交互，而不仅仅是创建一个可读的摘要。