微信已开始测试小微，一个直接集成到其应用程序中的AI助手。该助手由微信专有的语言模型WeLM驱动，WeLM采用了稀疏混合专家（MoE）架构进行开发。WeLM的一个6170亿参数版本每个token仅激活230亿参数，开发团队正在研究“隐藏解码”作为进一步扩展的方法。 AI
影响 此次集成标志着大型消费类应用程序将先进AI助手直接嵌入其平台的新趋势。
排序理由 这是现有模型的产品集成，而非来自主要AI实验室的前沿发布。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
WeChat has started gray-testing Xiaowei, a native AI assistant embedded inside the app, powered by WeLM, the WeChat AI team's long-developed large language model. WeLM has moved to sparse MoE architecture, with a 617-billion-parameter version activating just 23 billion per token,…
WeChat has begun testing Xiaowei, a native AI assistant embedded in the app, powered by WeLM. The model has grown to 617 billion parameters with a sparse MoE architecture, activating 23 billion per token. The team is exploring Hidden Decoding for new scaling directions. https:// …