AI in TypeScript
PulseAugur coverage of AI in TypeScript — every cluster mentioning AI in TypeScript across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
开发者用 TypeScript 构建了 80 行的 BPE 分词器
一位开发者用 80 行 TypeScript 代码实现了一个字节对编码 (BPE) 分词器，这是 OpenAI 的 GPT-2 和 Anthropic 的 Claude Code 等模型使用的一种方法。该分词器是可逆且无损的，它首先将文本拆分为基本字符类型，然后迭代地将最频繁的相邻字节对合并为新的 token。这个过程可以显著减少 token 数量，如一个测试所示，最小化后的 JSON 数据比格式化后的等效数据使用的 token 数量…
-
Claude 代码 Mods 在不经沙盒的情况下运行，引发安全担忧
Claude Code 的新“mods”功能允许自定义 JavaScript 或 TypeScript 代码直接在 AI 的进程中运行，授予它们广泛访问用户文件、网络请求的权限，甚至能够批准工具调用。此功能在 2.1.287 版本中引入，默认情况下不进行沙盒处理，这意味着 mods 可以使用用户的全部权限执行代码，类似于 `npm install` 执行包代码的方式。尽管 Anthropic 已经实施了一些安全措施，例如要求用户信任新…
-
Zod .refine() 规则在通过 OpenAI/Vercel SDK 传递给 LLM 之前被丢弃
使用 Zod schema 和 OpenAI Node SDK 或 Vercel AI SDK 的开发者可能会遇到问题，即自定义验证规则（特别是使用 `.refine()` 定义的规则）未传递给语言模型。这是因为这些 SDK 使用的 `z.toJSONSchema()` 函数会将 Zod schema 转换为 JSON Schema 格式，但会省略 `.refine()` 检查，将其视为标准 JSON Schema 不支持的自定义规则…
-
Node.js LLM 调用在用户断开连接后继续，产生费用
使用大型语言模型 (LLM) 的应用程序开发者需要意识到，即使在用户断开连接后，服务器端进程仍可能继续产生费用。标准的 Node.js 处理程序不会在用户断开连接时自动取消 LLM 调用或工具执行。为防止不必要的费用，开发者必须将 AbortSignal 显式传递给每一次 LLM 交互和工具调用，确保这些操作在客户端断开连接时被中止。这需要仔细处理连接事件，并利用 Node.js 的 AbortSignal 功能来管理正在进行的进程。
-
开发者被敦促对 AI 系统提示词进行版本控制，以实现更好的日志记录和调试
开发者常常忽视系统提示词在 AI 应用中的关键作用，将其视为简单的文本字符串而没有进行适当的版本控制。这可能导致 AI 行为发生不易察觉且未被记录的变更，难以追溯其根源。作者提出了一种结构化方法，使用版本化的提示词对象，包括唯一的 ID 和版本号，以确保每次 AI 交互都被记录并附带相应的提示词。这种方法可以实现更好的调试、审计，并通过将提示词验证集成到构建过程中来防止静默回归。
-
在 TypeScript 中管理 AI 对话历史记录，以降低成本和上下文错误
本文讨论了在 TypeScript 中管理多轮 AI 对话的策略，重点关注高效处理聊天历史记录，以减轻成本和上下文限制问题。它提出了一种 `Window` 类，该类将系统提示分开，并使用摘要技术来保留重要的对话上下文，从而防止出现诸如丢失系统指令或用户目标等常见错误。该方法旨在保留对话中最相关的部分以进行持续交互，而不仅仅是创建一个可读的摘要。