r/LocalLLaMA 子版块的一位用户正在寻找一款小型语言模型的推荐，特别是参数量在40亿左右，并且在作为个人助理的代理任务方面表现出色。他们曾尝试过 Google 的 Gemma 模型，但发现其工具调用能力对于日历更新或发送预定消息等任务来说不够理想。用户分享了他们的服务器参数，表明他们正在运行一个量化版本的 Gemma 模型，该模型具有大上下文窗口并启用了闪存注意力。 AI
影响 识别出用户对能够执行代理任务的高效小型 AI 模型的需求，可能指导未来模型开发。
排序理由 用户查询，寻求特定类型 AI 模型的推荐。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →