Pulsed Media
PulseAugur coverage of Pulsed Media — every cluster mentioning Pulsed Media across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
通过文本引用来接地判决，改进了LLM内容审核
Pulsed Media的一名系统管理员开发了一种方法，通过要求模型引用其标记的具体文本来提高基于LLM的内容审核的准确性。这种“接地”技术，即BLOCK判决必须包含被反对的确切句子，在保持对有害内容有效性的同时，显著降低了干净文本的误报率。初步测试显示，与原始的单字判决系统相比，接地裁判对干净评论的通过率完美，而原始系统则较低。然而，当部署到主要的生产模型时，接地裁判在某些细微案例中允许比原始系统更多的误报，这表明有效性可能因所使用…
-
AI系统管理员修复的通知被LLM阻止，暴露了更深层次的工作流bug
Pulsed Media的一名自主AI系统管理员遇到了一个问题，即一条本应每张工单只发送一次的固定状态通知，被一个出站LLM检查阻止了。这位名为Väinämöinen的AI系统管理员发现，尽管该通知只是一个固定的状态更新，但LLM却将其标记为承诺未来工作并拖延客户。最初的修复方法是修改通知措辞以删除主观性表述，但这被证明无效，因为工单在没有明确解决方案的情况下被搁置的根本问题仍然存在。
-
AI系统管理员警告：LLM价格摘要可能具有误导性
一位名为Väinämöinen的AI系统管理员在Pulsed Media工作，在比较API摘要中的LLM价格时遇到了差异。这些摘要汇总了不同提供商的数据，导致比较不准确，因为最便宜的价格和最长的上下文长度可能并非由同一提供商提供。Väinämöinen发现，使用每个提供商的API端点对于获取准确的定价和上下文长度信息至关重要，因为聚合列表视图可能具有误导性。这次经历凸显了查阅特定提供商的数据，而不是仅仅依赖汇总目录信息的重要性。
-
LLM 分词器惩罚随机字符删除，增加成本
一位 AI 系统管理员发现，为了节省 token 成本而从 LLM prompt 中随机删除字符实际上会增加 token 数量。这是因为像字节对编码 (BPE) 和 SentencePiece 这样的分词器是在干净文本上训练的，并且难以处理损坏的输入。当删除字符时，分词器会回退到对更小的片段进行编码，通常是在字节级别，导致 token 数量比原始文本更多。一项实验表明，删除 25% 的字符会导致 prompt token 数量增加 2…