Matt Lenhard 的一项新调查揭露了一个蓬勃发展的地下市场,该市场主要在中国运营,用于转售大型语言模型(LLM)代币。该市场利用免费试用、未受保护的支持机器人和被盗的 API 密钥来提供折扣的 LLM 代理访问。支持这些操作的软件通常是开源的,例如 one-api 和 new-api。买家被较低的成本和绕过地理限制的能力所吸引,其中一些人还使用该服务进行模型蒸馏。该市场的存在引起了开发人员对潜在滥用和意外 API 成本的担忧,凸显了 LLM 供应商实施更严格支出上限的必要性。 AI
影响 揭露了一个利用 LLM API 的市场,可能增加开发商和供应商的成本和安全风险。
排序理由 该集群讨论了对转售 LLM 代币的市场进行的调查,这是对围绕 LLM 使用的生态系统的评论,而不是直接的产品发布或推出。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →