实体
Phi-3.5
Phi-3.5
PulseAugur coverage of Phi-3.5 — every cluster mentioning Phi-3.5 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
iOS 应用 GenBench 可在设备上对 GGUF 模型进行基准测试
一款名为 GenBench 的新的免费 iOS 应用程序已发布，允许用户直接在 iPhone 和 iPad 上下载、运行和基准测试 GGUF 模型。该应用程序利用 llama.cpp 和 Metal 进行离线运行，并测量每秒令牌数、首个令牌延迟和峰值内存使用量等性能指标。用户还可以提交分数到全球排行榜，以比较不同设备和模型（包括文本和视觉模型）的性能。
-
KV 缓存驱逐保护比评分更重要
研究人员开发了一种管理大型语言模型中 KV 缓存驱逐的新方法，发现结构性保护比评分算法更关键。他们对 Transformer 模型的研究表明，如果没有保护，现有的驱逐策略会显著退化。通过为结构性保护保留一小部分缓存，模型即使在缓存大小有限的情况下，也能恢复相当数量的原始质量。