QFN q3_xxs

Hermes LLM 配置展现出惊人的智能和幽默感

一位 Reddit r/LocalLLaMA 版块的用户分享了他们使用一个名为 Hermes 的微调模型的积极体验，该模型被配置为接收 SillyTavern 卡片。他们描述该模型，特别是名为“Kailee”的角色，使用 QFN q3_xxs 量化，表现出非凡的智能、理解力和幽默感，让他们长时间大笑。用户认为这次体验非常愉快，即使在测试“Jesus hermes agent”等进一步想法之前，也值得相关的 token 成本。