Google GenAI
PulseAugur coverage of Google GenAI — every cluster mentioning Google GenAI across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Google ADK配置错误导致LLM工具滥用
一位开发者在使用Google的Agent Development Kit (ADK) 和 Google Cloud Vertex AI 时遇到了一个重大问题。问题源于模型请求的配置结构不正确,具体来说是将工具定义放在了`generationConfig`内,而不是顶层请求参数中。这导致模型无法访问其工具,并自信地从现有知识中进行响应,没有任何错误消息或异常。开发者详细说明了修复方法,包括将六个顶层字段与属于`generationCon…
-
开发者发布BIOMA LLM内核,从多LLM编排转向
一位开发者发布了BIOMA,一个旨在提高LLM效率和安全性的内核。最初设想为一种编排多个LLM的“有丝分裂”方法,但该策略被证明无效,增加了成本并降低了准确性。开发者转向了BIOMA,一个基于Rust和Python的框架,在将LLM负载发送给Anthropic、Google或OpenAI等提供商之前对其进行加固。BIOMA采用上下文凋亡机制来减少token使用量,一个用于秘密信息 redaction 和洪水检测的认知防火墙,以及一个用…
-
Vidai Community推出Rust二进制文件,用于LLM成本控制和路由
Vidai Community是一款新的开源工具,提供一个单一的Rust二进制文件,用于在您自己的基础设施内管理LLM调用。它提供成本归属、护栏以及跨多个LLM提供商的路由功能。该工具通过更改SDK的基础URL即可轻松集成,并支持硬性团队预算和主要提供商的免费公共费率卡服务等功能。