Qwen 3.6:35B
PulseAugur coverage of Qwen 3.6:35B — every cluster mentioning Qwen 3.6:35B across labs, papers, and developer communities, ranked by signal.
- 2026-05-24 product_launch Release of the uncensored Genesis APEX MTP version of the Qwen 3.6-35B model. 来源
5 天有情绪数据
-
二手Nvidia V100在1042美元的家庭实验室设备上以每秒100个token的速度驱动大型语言模型
一位家庭实验室爱好者展示了退役的Nvidia V100 GPU能够以令人印象深刻的速度有效地运行Qwen 3.6 35B等大型语言模型。通过在一个定制的1042美元设备中使用三块二手V100,构建者在64K及更长上下文长度下实现了大约每秒100个token的性能,超过了价值5399美元的M5 Max Mac Studio。该设置利用了“电子垃圾”GPU,即较旧的企业级显卡,并突显了它们在某些大型语言模型任务中的成本效益和出人意料的竞争…
-
基于 Qwen 3.6 35B 的新 Apex 35B 和 Axion 35B 模型缺乏讨论
一位 r/LocalLLaMA 子版块的用户正在寻求关于两个新微调语言模型 Apex 35B 和 Axion 35B 的信息和用户体验。这些模型基于 Qwen 3.6 35B 架构。用户指出,关于这些模型的公开讨论或信息很少,并特别提到 Axion 似乎由 ByteDance 开发。
-
本地大语言模型可在笔记本电脑上离线运行,但面临速度和电池续航挑战
一位用户在飞机上使用笔记本电脑测试了运行本地大语言模型(LLM),具体使用了 Ollama 和 Claude Code 在 M5 MacBook Pro 上运行 Qwen 3.6 35B。该设置成功实现了离线运行,但速度比云端模型慢,并且在处理上下文长度时遇到困难,导致生成了虚构的文件名。电池续航也是一个重大问题,使用过程中电量消耗很快。
-
用户使用 Qwen 3.8 27B 和 Open Code 构建发票应用
一位用户使用 Qwen 3.8 27B 开发了一个自定义桌面发票应用程序,并利用 Open Code 的编码代理来自动化开发任务。这使得这位编码经验有限的用户能够构建该应用程序,并每年节省 100 美元的订阅服务费用。该过程使用了 LM Studio 进行模型管理和 RTX 5090 GPU,Open Code 的自动压缩功能将上下文窗口保持在 57-90K 个 token 之间。
-
Qwen 3.8 Flash Next 在消费级 GPU 上高速运行 · 已追踪 4 个来源
用户正在分享在消费级硬件上运行 Qwen 3.8 Flash Next 模型的指南和基准测试,实现了令人印象深刻的速度和质量。一位用户详细介绍了在配备 64GB RAM 的 RTX 5080 上的设置,在代理编码会话中达到了超过 250 token/秒的速度。另一位用户展示了在配备 128GB RAM 的 RTX 5090 上的性能,强调了质量比较和速度指标。第三位用户报告称在配备 64GB RAM 的 5090 上取得了成功,并指出…
-
Qwen 3.6 35B 因代理任务和速度而受到赞扬
一位用户发布了对 Qwen 3.6 35B 模型的赞赏帖,强调了该模型在通用代理任务和与 Tesla P100 GPU 配对时的对话速度方面的优势。尽管在编码和角色一致性方面存在局限性,但该模型在执行诸如控制智能家居设备、发送提醒和管理个人任务等命令方面表现出色。用户希望未来的 Qwen 模型能够保留其速度和通用助手功能,同时提高智能和记忆功能,而不是仅仅专注于编码辅助。
-
Hermes Agent 修复强制 Qwen 模型使用语音备忘录技能
一位开发者遇到一个问题,在 DGX Spark 上由 Qwen 3.6-35B 模型驱动的 Hermes Agent,错误地使用了其默认的记忆工具,而不是预期的语音备忘录技能。这是因为模型将转录文本中的韩语单词“메모”(memo)误解为一般性的记忆指令,而不是触发语音备忘录技能的特定命令。开发者使用 Hermes 的 `pre_gateway_dispatch` 钩子实现了一个自定义插件,用于拦截消息,执行初步转录,并用明确的指令重写…
-
英伟达的 NeMo Switchyard 将 AI 代理成本降低 74%,盖过了其新模型发布
英伟达发布了两项新技术:Nemotron 3.5 Lightning,一个开源权重语言模型;以及 NeMo Switchyard,一个用于 AI 代理的开源路由库。虽然 Nemotron 3.5 Lightning 是一个标准的 30B 参数模型,但 NeMo Switchyard 因其显著降低 AI 代理成本的潜力而备受关注。早期基准测试表明,NeMo Switchyard 可通过智能路由请求至更便宜的模型,将大部分调用避开昂贵的尖…
-
Qwen 3.6 35B模型在Radeon 7600 GPU上以21 token/秒的速度运行
Reddit用户在r/LocalLLaMA子版块分享了他们使用GGUF格式的Qwen 3.6 35B模型在Radeon 7600显卡上运行的经验。在超频VRAM并使用llama.cpp优化设置后,他们达到了每秒21个token的速度。用户还注意到一个奇怪的bug,即当应用程序窗口可见时,token生成速度会降低,而最小化时则会提高。
-
Inkling-Small 276B-A12B 模型针对低内存消费级硬件进行了优化
Inkling-Small 276B-A12B 模型(约有 120 亿活跃参数)的新转换版本已针对在内存小于 10GB 的消费级硬件上运行进行了优化。基准测试显示,该模型在生成时速度约为每秒 2.9 个 token,但长提示预填充时间被指出是一个问题。这一发展是使大型混合专家(MoE)模型在标准硬件上可访问的持续努力的一部分。
-
Mach-1 Additive 模型以 10 倍小的体积实现了与 Qwen 3.6 35B 相媲美的性能
一款名为 Mach-1 Additive 的新模型据称在体积小 10 倍的情况下,达到了 Qwen 3.6 35B 性能的 95%。这一进展在本地 LLM 社区引发了讨论,用户们质疑为何如此重要的模型没有获得更多关注。该模型的效率预示着在资源受限的 AI 应用方面取得了显著进展。
-
KAT Coder 2.5 因速度和准确性优于 Qwen、Gemma 而获赞
一位开发者推荐 KAT Coder 2.5 模型,强调其在速度和准确性方面优于 Qwen 3.6 35b 和 Gemma 4 等模型。该开发者分享了一个 GitHub 仓库,详细介绍了他们的测试方法和性能比较,供他人审阅。他们鼓励用户亲自尝试该模型,因为个人用例比基准测试能提供更具信息量的结果。
-
TurboFieldfare引擎适配Qwen 3.6 35B,降低RAM使用量
一位用户已成功将最初为Gemma模型设计的TurboFieldfare引擎适配到支持Qwen 3.6 35B。由于其更小的专家模型和线性注意力机制的使用,此次移植使得Qwen模型所需的RAM更少,约为1.4 GB,而Gemma需要2.1 GB。虽然在用户的M5机器上,Qwen模型的每秒令牌数速度较慢,但这归因于其更大的专家模型文件需要更频繁的SSD读取。
-
新的AfriEconQA基准挑战AI在经济报告推理方面的能力
研究人员推出了AfriEconQA,这是一个新的基准,旨在测试AI模型在处理冗长的机构文件时的定量和时间推理能力。该基准源自220份关于非洲经济的世界银行经济报告,包含4,309个问答实例,侧重于精确的数值和时间数据提取。使用检索增强生成技术对Qwen 3.6 35B、DeepSeek V4-Pro和Gemma 4 12B IT等模型进行的评估显示出显著的进步,但仍难以达到高准确率,这表明AI在处理复杂的经济报告方面仍面临一个具有挑战…
-
Nifer 推理引擎在 Qwen 3.6 35B 模型上实现 720t/s
一款名为 Nifer 的新推理引擎已发布,据报道在 Qwen 3.6 35B 模型上实现了 550-720 tokens/秒的速度。用户形容这种性能“简直是疯了”,它无需复杂的批处理或并行代理即可实现,并支持 250k tokens 的上下文窗口。该引擎专门针对 RTX 5090 GPU 进行了优化,可在 GitHub 上获取,最初支持 Linux,未来可能支持 Windows。
-
Kimi Linear 48B A3B 模型提供 100 万上下文和快速性能
一款名为 Kimi Linear 48B A3B 的新型大型语言模型已经出现,它拥有 100 万个 token 的上下文窗口,并采用具有 480 亿参数的混合专家(Mixture-of-Experts)架构。用户报告称其运行速度很快,在速度上优于 Qwen 3.6 35B 等模型。虽然能够生成结构化内容,包括动画页面,但一些用户指出其响应可能比较简略,并建议可能需要进行微调以提高其推理或输出质量。
-
MadMax Ltx2.3 模型详解及提示词示例
一位Reddit用户分享了关于MadMax Ltx2.3模型的细节,该模型是文本到视频模型的一个量化版本,并指出其与Qwen 3.6 35b提示词生成器一起使用。该帖子包含旨在生成具有《疯狂的麦克斯》美学的电影场景的详细提示词示例,重点关注激烈的车辆追逐和凶猛的女性角色。这些提示词强调超细节反射、如灰尘和泥土等逼真的环境效果,以及动态的摄像机运动,以创造一种粗犷、生动的体验。
-
Hermes LLM 通过 Graphene OS 和远程网关在 Android 上运行
一位用户已成功将 Hermes 大型语言模型集成到 Android 系统中,特别是在 Graphene OS 上,并利用了远程网关设置。该系统以 Llama.cpp 和 Qwen 3.6 35b 作为后端,在提示处理和生成速度方面报告了令人印象深刻的性能指标。此设置可在移动设备上实现完全本地化且高效的 AI 体验,展示了智能手机上高级 AI 应用的潜力。
-
Strix Halo 因在本地部署 LLM 时的能效和价值而受到赞誉
一位 Reddit 用户分享了他们使用 Strix Halo 的经验,强调了其在运行本地大型语言模型方面的能效和价值。他们报告称,即使在高负载下,该设备每天的消耗也最多为 0.48 美元,他们认为这比 A6000 等传统 GPU 具有显著优势。用户还注意到 Strix Halo 的多功能性,为推理以外的托管服务提供了充足的资源。
-
本地AI助手Bella在ESP32板上运行,使用Qwen 3.6模型
一位用户已成功将名为Belochka或Bella的本地AI助手集成到他们的日常生活中,该助手运行在Mac上,可通过ESP32 w-10板访问。该设置利用了Qwen 3.6 35B模型,并允许Bella充当个人助理,管理任务、访问文件,甚至生成音乐等内容。用户强调了本地AI应用程序的可访问性和潜力,特别是与ESP32生态系统相结合,可用于从家庭安全到个人组织等各种用例。