PulseAugur
中
实时 18:24:58
实体 NumPy

NumPy

PulseAugur coverage of NumPy — every cluster mentioning NumPy across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
50
90 天内 157
发布 · 30天
0
90 天内 0
论文 · 30天
15
90 天内 47
层级分布 · 90 天
主题
关系
情绪 · 30 天

20 天有情绪数据

最近 · 第 1/9 页 · 共 168 条
  1. TOOL · CL_369449 ·

    LLM 量化失败:离群值将 99.9% 的数据归零

    一篇技术博文详细介绍了大型语言模型 (LLM) 的 INT4 和 INT8 量化中因离群值引起的关键故障模式。当 4,096 个浮点数块中存在单个离群值时,它会导致其中 4,095 个数字在 INT4 中被量化为零,从而有效地破坏了非离群值的信号。这种现象解释了为什么每张量 INT4 量化很少使用,为什么 GPTQ 等方法中的组大小有限,以及 `llm_int8_threshold` 等参数的用途。该帖子建议修复方法包括防止离群值主导…

  2. TOOL · CL_368576 ·

    使用 LLM 构建本地 RAG 系统以搜索 PDF

    本文详细介绍了如何使用本地大型语言模型 (LLM) 构建一个检索增强生成 (RAG) 系统来搜索本地 PDF 文档。文章概述了必要的先决条件,包括 Python 和一个具有 OpenAI 兼容 API 的本地 LLM 服务器,例如 Ollama 或 llama.cpp server。该过程包括从 PDF 中提取文本、对文本进行分块、使用 paraphrase-multilingual-MiniLM-L12-v2 等模型生成嵌入、将这些…

  3. TOOL · CL_369188 ·

    Google 增强 Gemini API,新增工具检索和 Mac 应用功能

    Google 增强了其 Gemini API,新增了工具检索功能,可动态执行函数以完成自动退款等任务。Mac 版 Gemini 应用现支持在本地文件和应用程序之间完成多步任务,并由用户监督。此外,Google 还推出了 Mirror Dimension,用于安全测试 AI 浏览器智能体。

  4. TOOL · CL_363279 ·

    Replit 发布 AI 代理集群以应对复杂的业务目标

    Replit 推出了 Replit Missions,一项利用 AI 代理集群来应对复杂业务目标的新功能。用户可以定义诸如获取企业客户或改进产品性能等目标,Replit 的代理将在设定的预算和范围内进行规划、构建、测试和迭代以实现这些结果。作为演示,Replit 使用 Missions 在两天内以低于 3000 美元的价格构建了一个名为 DataCat 的内部应用程序监控平台。该系统还通过在 NumPy 基准测试中实现显著的性能加速能…

  5. TOOL · CL_361553 ·

    DIVID Planner 集成 LLM 进行财务规划,区分计算与文字

    DIVID.AI 开发了一款财务规划工具 DIVID Planner,该工具集成了 Claude 作为远程 MCP 连接器。该工具将由使用 NumPy 和 TypeScript 的 Python 模拟执行的数学计算,与由 Claude 处理的自然语言生成分离开来。Claude 的作用是使用特定工具以易于理解的格式呈现模拟结果,用于规划和“假设”场景等操作,而不是自行执行计算。该系统强调,计划数字是根据历史数据和用户输入得出的估算值,而…

  6. TOOL · CL_360698 ·

    Python LLM 网关通过缓存和路由将成本降低 82%

    一位开发者概述了一个基于 Python 的网关,用于优化 LLM 成本,模拟日常支出从 80.37 美元减少到 14.52 美元,降幅为 81.9%。该方法包括实现按请求的 Token 日志、每日用户预算、上下文修剪、Prompt 和响应缓存、模型路由以及使用 Batch API 等功能。虽然准确性从 99.96% 略微下降到 99.84%,但成本节约显著。

  7. TOOL · CL_358257 ·

    LLM temperature=0 的输出可能因浮点数计算和共享 GPU 而异

    在大型语言模型中将 `temperature=0` 设置为保证确定性输出的普遍假设是错误的。这是因为浮点数算术,特别是在 `float16` 精度下,不是满足结合律的,导致在不同顺序计算总和时产生略微不同的结果。此外,LLM 推理中用于矩阵乘法的 GPU 内核在其求和顺序方面并不总是确定性的,因为这可能取决于批次大小等因素,而批次大小又受共享 GPU 的其他用户流量的影响。计算出的 logits 的这些细微差异可能导致模型选择不同的 …

  8. TOOL · CL_357624 ·

    权重空间编程将游戏规则编译成神经网络代理

    研究人员开发了一种名为权重空间编程(WSP)的方法,该方法允许在没有传统训练的情况下创建神经网络权重。该技术通过将已知的游戏机制编译成紧凑型神经网络代理进行了测试,这些代理能够泛化到特定游戏家族中未见过的关卡。虽然最强的 WSP 代理在未见过的关卡上取得了 56% 的成功率,但使用可比计算资源的 Python 玩家达到了 91% 的成功率,这表明在此背景下直接编程可能更有效。研究还发现,WSP 生成的网络很脆弱,在经过近端策略优化(P…

  9. RESEARCH · CL_357594 ·

    类型化决策模型研究表明,头部的复杂度不如骨干网络大小重要

    研究人员对类型化决策模型进行了一项对照研究,发现模型的“头部”(对选项进行评分的部分)的复杂度对准确性没有显著影响。实验表明,即使在推理速度更快的情况下,简单的头部也能与更复杂的头部媲美。研究还强调,模型的“骨干网络”大小比头部设计对性能更关键。此外,一个单独的教程提供了一个实用的五步法来重新校准类型化决策模型的置信度分数,证明特定的调整可以显著提高准确性并减少错误,特别是通过根据存储桶类型分离置信度分数。

  10. TOOL · CL_354857 ·

    用NumPy从头构建GPT:发布34章教程

    一项新的34章免费教程,指导读者仅使用NumPy从头开始构建一个生成式预训练Transformer(GPT)。教程从基础神经网络概念开始,逐步深入到注意力机制、预训练和各种采样策略等高级LLM主题。该教程专为希望深入了解LLM内部机制的自学者和工程师设计,整本书可以在笔记本电脑的CPU上进行训练,无需GPU。

  11. TOOL · CL_353771 ·

    5 个用于数据分析和报告生成的开源 AI 工具

    本文重点介绍了五个可用于数据分析和报告生成的开源 AI 工具。文章着重于那些能将原始数据集转化为图表和仪表板等可视化表示以及分析报告的工具。讨论的工具包括流行的 Python 库,如 Pandas、NumPy、Matplotlib 和 Seaborn,以及用于交互式应用程序的 Jupyter Notebook 和 streamlit。文章还简要提到了 R 和 ggplot2 作为数据可视化的替代方案。

  12. TOOL · CL_353476 ·

    作者详解 Memento 的 AI Agent Harness 构建过程

    作者详细介绍了 Memento 项目的 Agent Harness 构建过程,重点关注了 Agent 间的通信和上下文管理。该系统利用 LangChain 和 GPT-4 来促进任务委托和审查流程。关键组件包括 Pandas 和 NumPy 等 Python 库,集成在 Jupyter Notebook 环境中,并托管在 GitHub 上。

  13. TOOL · CL_352024 ·

    AI代理自主优化原子模拟数值算法

    研究人员开发了AIOA,一个AI代理框架,旨在自主优化原子模拟的数值算法。该代理在一个改进循环中运行,重写代码以加快执行速度,并重新设计方法以改进收敛性。当应用于ASE库时,AIOA显著加速了六个内核,使用Python配合NumPy和SciPy平均速度提高了22-24倍。此外,与L-BFGS等现有方法相比,优化后的算法在结构弛豫和反应路径计算方面所需的力评估次数大大减少。

  14. TOOL · CL_351231 ·

    PDF 中的隐藏文本差异会欺骗 AI 模型

    一位安全研究人员详细介绍了 PDF 文件如何通过向人类读者和提取库呈现不同信息来误导 AI 模型。通过修改 PDF 字体数据中的 ToUnicode 映射,发票中的单个数字可以显示为对人类而言的“5”,但被 pypdf 和 PyMuPDF 等常用 PDF 解析工具解释为“9”。这种差异影响了大量经测试的 PDF 文件,可能导致处理财务文件的 AI 代理出错,即使没有恶意意图。

  15. TOOL · CL_351241 ·

    AI模型在MacBook Pro上通过优化性能提升4倍

    最近一篇文章探讨了在本地硬件上显著加速AI模型性能的方法,特别是在MacBook Pro上。作者详细介绍了如何通过使用llama.cpp等工具优化Qwen3.8-27B等模型的执行,与标准实现相比,性能可提升高达四倍。这些优化在真实的代理编码任务上进行了演示,超越了简单的每秒令牌基准测试。

  16. COMMENTARY · CL_351025 ·

    尼泊尔AI工程师的角色侧重于集成而非模型训练

    在尼泊尔的一名AI工程师每周主要从事验证模型输出、清理和准备数据以供摄取以及优化代码以提高效率和降低成本等任务。与普遍看法相反,该角色更侧重于集成现有的LLM(如来自OpenAI、Anthropic和Google的模型)与LangChain等框架,而不是从头开始训练模型。主要职责包括使用RAGAS等工具确保答案的准确性、防范提示注入攻击以及仔细记录更改和测试结果。

  17. RESEARCH · CL_352292 ·

    TorchCurves库在PyTorch中实现了可学习的参数曲线

    一个名为TorchCurves的新PyTorch库已发布,它使得向量值参数曲线可以在神经网络中被视为可学习的基元。该库支持由B样条或勒让德多项式基表示的曲线,允许对输入和系数进行微分。TorchCurves可以集成到各种应用中,包括连续特征嵌入、Kolmogorov-Arnold网络和函数回归,其性能已与NumPy、SciPy和EfficientKAN等现有库进行了基准测试。

  18. COMMENTARY · CL_348811 ·

    Sonnet 5.5 vs. Opus 5.5 API 测试:方法论与发现

    一位开发者使用与 OpenAI 兼容的 API 对 Anthropic 的 Sonnet 5.5 和 Opus 5.5 模型进行了比较测试。测试涵盖了 22 个任务的 132 次 API 调用,包括常见的开发挑战以及更复杂的问题,如后缀数组和令牌桶限制器。虽然两个模型在可验证的任务上表现相同,但 Opus 5.5 速度较慢且生成的文本更多。开发者强调了严谨的测试方法的重要性,包括预定义的规则以及对运行后进行的任何调整进行透明记录。

  19. TOOL · CL_348344 ·

    玩具机器学习编译器在对抗性评估中失败,攻击成功率高

    一个玩具机器学习编译器经受了对抗性评估,暴露了显著的漏洞。该编译器成功执行了 71.4% 的手工编写的对抗性图和 86.4% 的生成变体,表明攻击成功率很高。评估发现,该编译器在验证方面严重依赖 Python 和 NumPy,当面对格式错误或意外输入时,这可能导致静默错误或不正确的计算。具体而言,与解释器相比,代码生成组件在 240 个图中显示出 152 个的高发散率。

  20. TOOL · CL_347399 ·

    用NumPy内核替换Python循环,速度提升12%

    通过用向量化的NumPy内核替换标准的Python循环,实现性能优化,速度提高了12%。有关此增强功能的更多详细信息,请参阅graphwiz.ai上发布的深度解析。