实体
Maarten Grootendorst
Maarten Grootendorst
PulseAugur coverage of Maarten Grootendorst — every cluster mentioning Maarten Grootendorst across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM效率和推理系统在技术深度探讨中得到探索
两篇技术文章探讨了大语言模型（LLM）效率和性能的关键方面。第一篇深入探讨了量化，这是一种用于压缩LLM以减小其大小和计算需求的技巧。第二篇文章深入探讨了vLLM，这是一个专为高吞吐量LLM服务而设计的开源推理系统。
-
Google的Gemma 4 12B在没有编码器的情况下处理图像和音频
Google发布了Gemma 4 12B，这是一款轻量级的多模态AI模型，专为在消费级硬件上运行而设计，仅需16GB显存即可。该模型独特之处在于它在没有传统编码器的情况下处理图像和音频，从而减少了内存使用和延迟。对于图像，它使用一个拥有3500万参数的嵌入模块将像素数据转换为LLM可用的格式，而音频则通过直接标记40毫秒的片段来处理。