sampling
PulseAugur coverage of sampling — every cluster mentioning sampling across labs, papers, and developer communities, ranked by signal.
-
Model Context Protocol 修订将影响 2027 年前的 AI 集成
Model Context Protocol (MCP),一个用于 AI 助手连接业务系统的开放标准,正在进行修订,这将影响现有服务器。7 月 28 日修订中的一个关键变化意味着,诸如 Roots、Sampling、Logging 和 Dynamic Client Registration 等功能将在 2027 年 7 月 28 日之后有资格被移除,需要至少十二个月的弃用窗口。MCP 由 Anthropic 推出,现由 Agentic…
-
ChatGPT 协助数学家解决 31 年未解的证明难题
最近的一篇论文详细介绍了 ChatGPT 如何协助数学家解决一个困扰了 31 年的复杂问题。据报道,该 AI 模型为与高效计算机搜索和采样相关的挑战生成了核心思想和证明。人类数学家主要专注于理解和阐述 AI 的贡献,以最终完成证明。
-
MCP 采样功能允许服务器提示用户模型,引发新的安全担忧
模型上下文协议 (MCP) 引入了一项名为“采样”的功能,允许服务器提示用户模型。这种能力颠覆了典型的数据流,使服务器能够请求 LLM 完成任务,并代表服务器执行任务。虽然这有助于提高服务器的智能性,并实现代理工作流,而无需服务器管理自己的模型和 API 密钥,但它也引入了一个新的信任边界。服务器现在可以影响模型选择并提供上下文,这引发了对模型上下文中用户数据的安全性和隐私的担忧。
-
Together 发布用于 API 概念的“学习”文档
Together 推出了一个名为“学习”的新文档部分,以帮助开发人员理解其 API 背后的概念。该部分旨在深入探讨诸如首次字节响应时间 (TTFT)、上下文窗口、采样、微调、量化和部署权衡等主题。
-
MCP 协议加载的上下文比所需多 6.6 倍,效率低下
近期对 MCP(模型通信协议)的分析显示,在用户进行任何交互之前,代理工具会消耗比必要多约 6.6 倍的上下文,这存在显著的效率低下问题。
-
LLM 创造力由温度和采样参数控制
LLM 使用温度和采样参数来控制其输出的创造性和可预测性。温度重塑了潜在下一个词的概率分布:低温度(接近 0)倾向于最可能的词,导致确定性和重复性的响应,而较高的温度(大于 1)则使分布变平,让不太可能的词有机会出现,从而产生更具创造性但可能出错的文本。top-k 和 top-p 采样等技术通过修剪概率尾部来进一步优化词语选择,在保持多样性的同时防止出现荒谬的词语选择。最佳设置取决于任务,低温度适用于事实性任务,而较高温度适用于创意性工作。