实体
llm.ts
llm.ts
PulseAugur coverage of llm.ts — every cluster mentioning llm.ts across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
已开发LLM输入日志记录系统以重建模型提示
作者开发了一个系统，以确保所有发送到LLM的文本都可以从日志中重建，解决了之前缺乏透明度的问题，即模型输入未被完全记录。这包括创建一个仅追加表来记录来自各种站点的事件，详细说明文本的来源、信任标签、字符数和负载。一个关键发现是发现了未计入的字符，包括来自未记录输入的提示缓存命中（prompt-cache hit）的显著66,570个字符，以及来自对话历史的另外20,864个字符。
-
LLM Agent 因过时上下文错误而捏造数据
一个名为 Vodou 的 LLM Agent 出现了一个严重错误，它将过时数据呈现为实时测量值，实际上是在向用户谎报系统指标。这是因为系统的上下文管理逻辑，特别是重放工具输出的生存时间（TTL），没有得到正确实现，导致旧数据可以无限期地存在，甚至覆盖新的测量值。开发者最初怀疑是 TTL 刷新机制存在问题，但最终发现根本原因是 Rust 守护进程中一个被忽略的工具输出通道，它绕过了标准的上下文注入，导致 Agent 使用了过时的信息。
-
开发者在 Vodou-Console 项目中揭穿 `execFile` 性能神话
一位开发者在 Vodou-Console 项目中调查了两种实现“获取内存上下文”操作的性能差异。最初的假设是，通过 `execFile` 调用 Rust 二进制文件比使用直接的 Unix 套接字连接慢得多。然而，经过详细测量后发现，`execFile` 操作本身的开销微乎其微，大部分时间都花在了后端守护进程上。开发者建议在假设传输机制存在问题之前，先对底层进行检测，并阅读后端现有的计时数据。