hashlib
PulseAugur coverage of hashlib — every cluster mentioning hashlib across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
LLM 提示评估需要固定的数据集以确保有效比较
本文强调了在比较大型语言模型(LLM)的不同提示时,“固定”评估数据集的关键必要性。固定可确保每次提示比较都使用完全相同的输入和预期输出集,从而防止因数据集漂移而导致结果产生误导。作者提出了一些实用的方法,例如在 Git 中对文件进行版本控制、记录文件哈希值、使用种子固定采样方法、存储全面的运行元数据以及实施检查以在数据集不匹配时发出明确的失败警告。
-
新的CryptoBench数据集测试LLM代码审查中的加密滥用
一个名为CryptoBench的新数据集已被开发出来,用于评估大型语言模型(LLMs)检测代码中加密API滥用的能力。该数据集包含54个Python代码片段,包括易受攻击和安全的示例,并按常见的弱点枚举进行分类。对七个开源模型的初步测试显示,虽然一些模型检测率很高,但许多模型也会错误地将安全代码标记为易受攻击,这表明其区分能力不足。该数据集及相关的分析脚本已公开提供,以供进一步测试和研究。
-
AI开发讨论涵盖业务代理、代码移植、MoE瓶颈和缓存问题
最近在Mastodon上的一次讨论突显了AI开发和软件工程中的几个技术挑战和考虑因素。一个帖子探讨了AI代理如何成功管理一个微型企业,强调了功能分配对小型企业的效率。另一篇帖子深入探讨了将图检索库从Python移植到Java的复杂性,涉及Neo4j等工具。此外,一次对话讨论了批处理解码过程中混合专家(MoE)推理管道的性能瓶颈,并且对一个详细的拉取请求的分析揭示了AI模型调用中缓存机制的潜在问题,包括租户ID处理、失败响应的缓存以及无…
-
开发者通过语义缓存和速率限制削减 LLM Token 成本
开发者正在实施缓存策略,以在免费套餐的大型语言模型 (LLM) 端点上降低成本并提高效率。一种方法是 SimHash,它使用哈希算法来识别语义上相似的提示,即使措辞略有不同也能实现缓存命中。另一种方法涉及令牌桶系统,用于管理请求速率并防止超出 API 限制,从而确保更顺畅的运行并避免错误。第三种策略是语义缓存,它将提示转换为嵌入,并比较它们的距离以找到相似的含义,从而重用已存储的响应并节省昂贵的 LLM 调用。
-
开发者构建受硅谷启发的迷你去中心化互联网
一位开发者创建了一个去中心化互联网概念的迷你版本,该概念因电视剧《硅谷》而广受欢迎。这个用Python构建的小规模实现,展示了点对点网络如何使用内容寻址来存储和验证数据,其中数据通过其内容的哈希值来识别,而不是其位置。该项目突出了构建去中心化网络的关键技术挑战和原则,强调数据完整性和没有中央服务器。