实体
sampling
sampling
PulseAugur coverage of sampling — every cluster mentioning sampling across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Together 发布用于 API 概念的“学习”文档
Together 推出了一个名为“学习”的新文档部分，以帮助开发人员理解其 API 背后的概念。该部分旨在深入探讨诸如首次字节响应时间 (TTFT)、上下文窗口、采样、微调、量化和部署权衡等主题。
-
MCP 协议加载的上下文比所需多 6.6 倍，效率低下
近期对 MCP（模型通信协议）的分析显示，在用户进行任何交互之前，代理工具会消耗比必要多约 6.6 倍的上下文，这存在显著的效率低下问题。
-
LLM 创造力由温度和采样参数控制
LLM 使用温度和采样参数来控制其输出的创造性和可预测性。温度重塑了潜在下一个词的概率分布：低温度（接近 0）倾向于最可能的词，导致确定性和重复性的响应，而较高的温度（大于 1）则使分布变平，让不太可能的词有机会出现，从而产生更具创造性但可能出错的文本。top-k 和 top-p 采样等技术通过修剪概率尾部来进一步优化词语选择，在保持多样性的同时防止出现荒谬的词语选择。最佳设置取决于任务，低温度适用于事实性任务，而较高温度适用于创意性工作。