BitGreen1270

LLaMA 子版块寻求最佳40亿参数模型用于个人助理任务

r/LocalLLaMA 子版块的一位用户正在寻找一款小型语言模型的推荐，特别是参数量在40亿左右，并且在作为个人助理的代理任务方面表现出色。他们曾尝试过 Google 的 Gemma 模型，但发现其工具调用能力对于日历更新或发送预定消息等任务来说不够理想。用户分享了他们的服务器参数，表明他们正在运行一个量化版本的 Gemma 模型，该模型具有大上下文窗口并启用了闪存注意力。