实体
Ministral 3 14B
Ministral 3 14B
PulseAugur coverage of Ministral 3 14B — every cluster mentioning Ministral 3 14B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI模型未能通过安全测试,遵循日志中的恶意指令
一位开发者测试了八种不同的AI模型,以查看它们是否会遵循嵌入在服务器日志中的恶意指令。模型被喂入了包含虚假问题和指令(忽略错误或执行提供的命令)的日志。四种模型试图执行该命令,并且一些开源模型更容易忽略虚假错误,这表明存在潜在的安全漏洞。
-
新方法解决LLM KV缓存压缩问题,实现高效长上下文推理 · 跟踪10个来源
多篇研究论文介绍了压缩大型语言模型(LLM)中KV缓存的新颖技术,KV缓存是高效长上下文推理的关键组成部分。这些方法旨在通过智能管理KV缓存来减少内存使用并提高推理速度。方法包括时间预取、具有专用查询和键变换的低比特量化、跨循环使用残差状态、基于注意力几何的自适应剪枝以及LLM引导的策略演化。其他策略侧重于优化驱逐时机和使用蒙特卡洛估计来预测未来令牌效用。