ngxson
PulseAugur coverage of ngxson — every cluster mentioning ngxson across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
llama.cpp v.b12498 修复 LoRA、recurrent 问题,标准化 token 处理
llama.cpp 项目发布了 b12498 版本,其中包括对其服务器组件中 LoRA 和 recurrent 功能的修复。此次更新还解决了 token 批处理相关的问题,尤其是在 CUDA 上,通过标准化每个 ubatch 的 token 处理,确保了更一致的测试结果。
-
llama.cpp 在 b12237 版本中增加了 Gemma 4 音频流支持
llama.cpp 项目发布了 b12237 版本,其中包括对 Gemma 4 输入音频流的支持。此更新解决了实时嵌入被错误地强制用于音频生成的问题,导致带有音频流的聊天模型中止。此修复确保仅在音频生成需要时才启用嵌入。
-
llama.cpp 项目增加了对 MageVL-Cowork 模型 的支持
一项拉取请求已提交至 llama.cpp 项目,以增加对 MageVL-Cowork 模型 的支持。该请求由用户 ngxson 提交,并包含指向托管在 Hugging Face 上的该模型的 GGUF 版本的链接。此次集成旨在通过引入新的多模态模型来增强 llama.cpp 框架的功能。
-
三星电视被指控使用人工智能收集音频/截屏用于广告
一名网络安全赏金猎人发现,运行Tizen操作系统的三星电视据称使用人工智能模型收集大量用户数据,包括音频录音和截屏,用于定向广告。该猎人发现了分析用户行为的特定区域卷积神经网络的证据,并指出如果电视自身的麦克风不活动,电视甚至可能利用连接的设备(如条形音箱)进行音频捕获。这一发现导致该猎人被OpenAI封禁,据称是因为分类器误将他们的逆向工程活动识别为违规。
-
llama.cpp 添加 /v1/systemone API 以支持新的本地 LLM 模型
llama.cpp 项目集成了一个新的 API 端点 /v1/systemone,支持了几个新模型。这些模型包括 Laya、julia-1、lev、openjev 和 kev,并提供了它们在 Hugging Face 上 GGUF 版本的链接。此次更新增强了功能,包括在无需先前 'jev' 操作的情况下进行 'jev' 的能力,暗示了本地 LLM 环境中的新处理能力。
-
llama.cpp 添加 TENSOR_READ_LAZY 以实现高效模型加载
llama.cpp 项目的一项拉取请求引入了由 ngxson 开发的新功能 TENSOR_READ_LAZY。此增强功能旨在通过允许 Qwen 3.8 Next Flash (Qwen 4) 等模型的 engrams 不完全存储在 VRAM 或 RAM 中来提高加载大型语言模型的效率。此更改是优化本地 LLM 性能和可访问性工作的组成部分。
-
llama.cpp 增加了对 agentic 聊天和编码的完整 MCP 支持
llama.cpp 项目宣布已全面支持 MCP(模型通信协议),使其 WebUI 能够作为全面的 agentic 聊天界面运行。此次集成允许用户通过 JSON 文件或命令行参数配置 MCP 服务器,从而促进本地模型驱动的应用程序。此次更新特别增强了 `llama-cli` 工具以直接利用该服务器,无需单独的模型服务路由,并实现了与 Serena 等工具的无缝集成,以提供本地编码辅助。
-
llama.cpp 为本地 AI 模型添加视频输入支持
一项拉取请求已提交至 llama.cpp 项目,旨在将视频输入功能集成到 mtmd 工具中。此次更新将允许用户使用 Gemma 和 Qwen 等本地大型语言模型来处理和分析视频内容。拟议的更改旨在将本地 AI 模型的功能扩展到文本和图像处理之外。