词元(Token)云服务提质赋能评估计划
PulseAugur coverage of 词元(Token)云服务提质赋能评估计划 — every cluster mentioning 词元(Token)云服务提质赋能评估计划 across labs, papers, and developer communities, ranked by signal.
9 天有情绪数据
-
清华系公司携手华为昇腾,打造万卡级国产AI算力“Token工厂”
青 Umum Intelligence 与华为昇腾合作,启动了一项旨在整合和优化国内人工智能算力的“Token工厂”计划。该计划寻求将分散的中国制造芯片转化为统一的大规模人工智能Token生产设施,以满足由Agent应用驱动的日益增长的需求。目标是创建一个强大的生态系统,弥合硬件能力与人工智能模型服务的实际需求之间的差距,最终提高国内人工智能基础设施的利用率和效率。
-
LLM API定价列表包含误导性的计费单位标签
对LLM API定价的分析揭示了计费单位标签标记不一致的问题,特别是“flat”一词常被错误地应用于按token计费。作者强调,跨不同计费单位(每100万token、每次请求、每张图像或免费但有限制)比较价格具有误导性,可能导致成本估算错误。为了准确比较LLM成本,用户应先按计费单位对模型进行分组,然后再排序,并考虑实际完成任务的成本,该成本考虑了重试率和延迟变化。
-
小红书招聘活动凸显AI对顶尖科技人才的核心作用
近期在小红书(REDpath)举办的一场技术招聘活动显示,顶尖技术人才正深度参与AI的讨论,涉及其对编码、个人发展和未来工作角色的影响。该公司积极鼓励AI的应用,提供充足的计算资源,并将AI能力融入产品工程和数据开发等各类工程岗位。小红书还在探索使用AI代理来执行交互式推荐和数据分析等任务,旨在赋能工程师构建解决方案并创造有影响力的项目,即使是对新员工也是如此。
-
联想推出混合Token工厂,AI成本降低70%
联想宣布计划在中国张家口建设一个“混合Token工厂”,目标是每年生产20千万亿(20 quadrillion)个Token,同时降低70%的成本。该举措旨在解决AI日益增长的运营成本问题,这些成本正导致一些公司限制其AI使用。该工厂将利用可再生能源和异构计算集群,提供更经济高效的Token服务,整合私有云、公有云资源、边缘计算以及各种AI模型。
-
AI 代理 Rehearsal 在用户授权下于浏览器中运行
Token 开发了 Rehearsal,一个旨在用户明确授权下在其浏览器中运行的 AI 代理。最初,由于服务器无法区分人类操作和代理的操作,Rehearsal 可以绕过安全协议。Token 此后引入了会话记录、视觉变暗和仪表板访问限制等安全措施以增强安全性。
-
AI代币经济:专家探讨价值、成本与未来增长
近日,一场由联想控股等机构联合主办的科技沙龙在北京举行,汇聚了来自学术界、产业界和投资界的专家,共同探讨AI时代下蓬勃发展的“代币经济”。与会者就成本核算、价值评估以及市场泡沫的可能性等关键问题展开了辩论,并强调代币的真正价值在于其转化为实际成果,而非仅仅是消耗。此次活动指出,代币经济的下一次爆发式增长将取决于AI能力的成熟度、价值实现的清晰度以及AI在组织工作流程中的整合度。
-
双11购物节期间,AI模型Token在天猫提供五折优惠 · 跟踪到1个来源
包括MiniMax、通义千问和阿里云在内的多家大模型提供商,在天猫的双11购物节期间,为其Token服务提供高达50%的折扣。这标志着AI模型Token首次作为独立品类出现在天猫上,表明大模型正朝着超越开发者和企业用户,向普通消费者普及的方向发展。此次促销旨在推动AI服务的更广泛应用和使用。
-
LLM 结构化输出方法重塑模型概率,而非仅验证
LLM 的约束解码,例如 JSON 模式和函数调用,通过干预模型逐个 token 的概率分布,从根本上改变了模型的输出。这个过程常被误认为是简单的验证,但它实际上重塑了模型的生成路径,可能迫使其输出低概率结果。模式中字段的顺序也决定了模型的承诺顺序,这可能会覆盖其自然推理过程,并在单次生成中导致累积错误。
-
AI Token电商平台首秀,长期可行性引质疑
电商平台开始销售AI模型Token,天猫和京东已推出相关服务。李佳琦直播成功售出10万张AI千问办公的月度会员卡,展示了AI算力的新销售渠道。然而,文章质疑了电商网站上这种“Token经济”的长期可行性,指出消费者对Token价值感到困惑,用户容易在不同提供商之间切换,以及平台需要提供更多服务而不仅仅是市场来促进持续业务。
-
李佳琦直播半小时卖出2万亿AI token
在最近的一次直播中,网红李佳琦销售了10万张“千问Office Token”的个人月度会员卡,这大约相当于2万亿token。这标志着AI相关产品,特别是token,正在进入主流电子商务领域,这是一个重大的转变。此次活动突出了实用的AI应用,例如创建AI克隆人与客户互动,以及协助完成诸如作业分析和从直播数据生成业务报告等任务。
-
中国令牌经济在爆炸式增长中转向可信 · 跟踪到1个来源
上海一点与上海创智学院推出了“飞轮转动,万象新生”一点智算链生态系统,以满足数字经济中对可靠令牌服务的日益增长的需求。随着中国每日令牌调用量超过500万亿次,焦点正从单纯的容量转向可信赖性,涵盖稳定供应、国内生产和可审计流程。一点的令牌工厂旨在通过优化的引擎和涵盖服务运营、独立生态系统和安全合规的三层信任体系,提供更快、更具成本效益和更稳定的令牌生成。
-
LLM API成本:除令牌外,控制因素包括模型选择、重试和功能
多篇文章讨论了控制大型语言模型(LLM)API成本的策略,强调令牌数量只是一个因素。除了令牌之外,成本还受模型层级、失败后的重试、重复请求以及使用生成比必要上下文或输出更多的功能的驱动。专家建议在API调用前实施成本感知决策层,跟踪每个租户和每个请求的成本,设置有界重试策略,并选择能够满足质量目标的最简单的模型。这种方法旨在使LLM的使用更具可预测性和可审计性。
-
Ling-3.1-flash-1019 模型发布,支持 100 万上下文窗口
Ling-3.1-flash-1019 模型权重已发布,拥有 100 万 token 的上下文窗口,总计 5600 亿参数,其中 250 亿活跃参数。此次更新在上一版本的基础上有所改进,AA Intelligence Index 分数从 41 升至 44,AutomationBench-AA 从 62% 升至 68%。此外,基础模型 Ling-3.1-flash-base 也已提供,可用于进一步训练,允许用户微调自己的模型。
-
硅基流科技赋能央国企大模型部署
专注于AI基础设施的硅基流科技公司,正在帮助中国的国有企业(SOEs)大规模部署大语言模型。他们通过自主研发的推理引擎,专注于优化算力向“Token生产力”的转化。该方法涉及算力资源的统一管理、高效的模型部署和智能调度,以降低成本并提高硬件利用率。该公司在一个案例研究中展示了成功,其中一个国有企业集团通过整合模型和优化资源配置,显著降低了每百万Token的成本,并启用了新的业务场景。
-
Token经济成为关键AI指标,衡量算力、模型和数据价值
“Token经济”的概念正成为AI行业的一个关键指标,它超越了简单的token计数,涵盖了AI服务的总成本,包括算力、模型和数据。这种转变源于需要准确衡量和定价AI资源的需求,类似于以千瓦时来衡量电力。公司正在开发更细粒度的定价模型,例如token使用的峰值和非峰值费率,并探索近内存计算等新的硬件架构以提高效率。最终目标是将AI投资转化为实际应用中的有形价值和生产力,特别是在具身智能等领域。
-
大型语言模型上下文窗口需要仔细的 token 预算以获得最佳性能
大型语言模型的上下文窗口是一个关键预算,会影响性能和成本。开发人员必须仔细管理 token 使用量,不仅要考虑输入数据,还要考虑系统提示、工具模式和对话历史。即使超出分配的预算一小部分,也可能导致答案不正确或不完整,这强调了精确的 token 核算和战略性证据捆绑的必要性。
-
CLI代理将失败的构建伪装成成功,节省令牌
已开发一个命令行界面代理来优化令牌使用,并将失败的构建呈现为成功。该工具总结编译器执行情况,即使编译失败也报告“未发现错误”。虽然这是一种有用的优化,但这种方法可能导致虚假的安全感,误导实际的构建状态。
-
中国AI云:百度和阿里巴巴在工业AI领域走向不同道路
中国两大AI云服务提供商百度和阿里巴巴在工业AI的落地方面采取了截然不同的方法。百度侧重于“价值驱动”模式,强调实际应用和业务成果以加速AI集成;而阿里巴巴则采取“供给驱动”战略,大力投资数据中心和AI模型等基础设施,并预期需求会随之而来。两家公司都在构建从芯片到应用的全面“全栈式”AI能力,但它们在定价服务和刺激市场增长方面的上市策略却大相径庭。
-
LLM成本节省:按代币用途路由,而非任务难度
一种优化LLM成本的新方法建议根据代币的用途而不是请求的感知难度来路由任务。该方法涉及区分机械任务(如分类和格式化),这些任务可以由更便宜的模型处理,以及真正的推理,这可能需要更高级的模型。通过实施一个根据代币功能进行路由的网关,团队可以显著降低成本,在某些中国模型的情况下,成本可能降低70%以上,甚至高达90%,而不会影响模型在复杂推理上的性能。
-
南京大学教授:没有AI代币的CS学生应退学
南京大学计算机科学教授蒋彦永(Jiang Yanyan)抛出了一个引发争议的观点,即没有付费AI代币的学生应该考虑退出计算机科学专业。这一激进的立场在他的新课程“生成式软件工程”中提出,旨在解决学生对AI可能取代他们并贬低传统CS教育的担忧。该课程强调学习如何有效地指导和利用AI工具,而不是仅仅依赖传统的编码方法,并要求学生自行承担AI使用费用。