Neural Networks
PulseAugur coverage of Neural Networks — every cluster mentioning Neural Networks across labs, papers, and developer communities, ranked by signal.
- used by activation function 95%
- instance of deep learning 90%
- instance of physics-informed neural networks 90%
- used by natural language processing 90%
- developed natural language processing 90%
- instance of Recurrent Neural Networks 90%
- affiliated with deep learning 70%
- used by ScienceCast 70%
- used by alphaXiv 70%
- instance of Gotit.pub 70%
- used by physics-informed neural networks 70%
- instance of ScienceCast 70%
22 天有情绪数据
-
TopoSurfel 框架将高斯飞溅与网格重建联系起来
研究人员开发了 TopoSurfel，这是一个连接 3D 高斯飞溅 (3DGS) 和基于网格的表面重建之间差距的新框架。与以往因 3DGS 的离散性质而在无纹理或遮挡区域经常出现伪影的方法不同，TopoSurfel 使用可微分的等值面提取过程动态提取连续网格。这种连接能够实现高斯曲面片的网格引导演化，从而改善法线对齐和密度控制，以减少伪影和填充孔洞。该框架还结合了混合重新初始化策略，以在大型环境中实现鲁棒重建，从而获得具有竞争力的几何…
-
AI模型利用文本分析预测研究论文质量
研究人员开发了一种方法，仅使用论文标题和摘要中的文本特征即可将科学论文分为高质量或有缺陷的类别。该研究评估了各种嵌入技术和分类器，发现使用SBERT嵌入的神经网络准确率为87.22%，而FastText-SVM组合的准确率为91.12%。这项工作旨在通过利用文本分析来促进可信的学术研究，为学术诚信工具做出贡献。
-
进化原则在神经网络特征学习中得到映照
LessWrong 上的一篇最新帖子在进化过程和神经网络之间建立了数学类比，特别关注归纳偏倚。作者认为，进化就像机器学习模型一样，不仅选择有益的性状，还选择有利于未来适应的基因组架构。这种“基因组-环境对齐”的概念被认为类似于神经网络中的特征学习，暗示了生物进化和人工智能之间存在共同的结构母题。
-
机器学习破译 q-级数不变量的拓扑特征
研究人员开发了一种新颖的机器学习方法来分析结构为无限 q-级数的数学数据，特别关注低维拓扑中的 Z-不变量。通过构建一组注塑 3-流形的 Z-不变量数据集，训练神经网络直接从 q-级数系数中提取同调类和图结构等拓扑特征。该研究强调了这些网络的可解释性，表明它们学习到了复杂拓扑规则的光谱和几何代理。该方法成功应用于预测 Heegaard Floer d-不变量，表明 Z-不变量包含与共系等价性相关的微妙几何信息。
-
大型语言模型有望彻底改变纳米光子学的设计和发现
一篇新的综述文章探讨了大型语言模型（LLMs）在纳米光子学领域的融合。文章详细介绍了LLMs如何通过提供语义接口、生成代码和协调仿真工具，超越传统的神经网络。这些模型主要有两种应用方式：作为结构-光谱映射的代理模型，以及作为能够自主优化的代理系统。该综述还触及了在材料科学和无线通信等相关领域的潜在应用，并设想了未来能够作为科学发现的积极协作者的多模态基础模型。
-
人工智能炒作因过度使用复杂神经网络而受到批评
一位 Mastodon 用户对使用定制训练的神经网络来完成可以通过对比度检测等更简单的算法完成的任务表示好笑。用户认为，这种效率较低且资源密集型的方法，象征着人工智能更广泛的炒作。
-
新方法通过证明共享和零知识证明增强神经网络验证
研究人员正在探索新方法来验证神经网络的鲁棒性和公平性，特别是在关键领域的应用。一种名为FastCert的方法系统地研究和优化了基于模板的证明共享以加速验证，通过智能地分发模板，比现有技术实现了1.13倍的加速。另一项开发PANDA利用可扩展的零知识证明来保证模型属性而不泄露敏感参数，能够在几分钟内为拥有数百万参数的网络提供证明。
-
人工智能智能辩论：文本 vs. 世界模型，追溯神经网络的70年历史
文章探讨了关于仅仅喂给大型语言模型（LLMs）更多的文本是否足以产生真正的智能的持续辩论。它追溯了神经网络70年的历史，包括被称为“AI寒冬”的停滞时期。文章强调了Yann LeCun目前专注于开发世界模型，旨在使机器能够理解、推理和规划，并将其作为超越文本学习的AI发展的另一种途径。
-
$S^3$ 方法优化动力系统的神经网络抽象
研究人员开发了一种称为平滑仿真代理（$S^3$）的新方法，用于优化动力系统的离散抽象，特别是那些具有神经网络控制器的系统。这种可微分的目标函数近似了用于量化抽象中保守性的指标，从而允许进行基于梯度的优化，同时保持其可靠性。在三个案例研究中的评估表明，$S^3$ 与反向仿真指标具有良好的相关性，计算效率高，并能有效降低抽象保守性。
-
神经网络构建自旋共形场，恢复麦克斯韦共形场论
研究人员开发了一种使用神经网络和嵌入形式主义来构建自旋共形场的方法。该方法允许计算二点、三点和四点函数，并在此基础上扩展了现有的标量共形场技术。在具有独立同分布神经元的特定场景下，该方法在无限宽度极限下成功地重现了四维麦克斯韦共形场论。
-
机器学习模型在海上通量预测方面显示出潜力
研究人员开发并测试了机器学习技术，特别是神经网络和随机森林，用于参数化海上环境中的湍流通量。利用三个不同海上站点的数据，以垂直梯度为输入，训练了动量和热通量的模型。机器学习模型在海上通量预测方面表现出与已建立的COARE-3模型相当，甚至在某些情况下优于该模型，尤其是在热通量方面。
-
新方法结合蒙特卡洛和神经网络求解边值问题
本文探讨了近似泊松方程解的新方法，泊松方程是数学物理中的一个基本问题。研究人员证明，蒙特卡洛方法，特别是加速球面行走算法，可以有效地为该方程的解提供数值近似。此外，研究表明，这些蒙特卡洛求解器如何用于构建也近似解的深度神经网络（DNN），这些网络的规模在多项式上取决于问题的维度和所需的精度。
-
为SVM和神经网络提出新的凸集损失
研究人员为支持向量机（SVM）和神经网络（特别是二元分类任务）引入了新颖的凸集损失函数。虽然直接应用于对偶SVM模型存在挑战，但这些新损失可以与原始SVM公式和神经网络集成。该研究采用粒子群优化来解决带有这些修改后损失的原始SVM问题，并证明它们可以泛化标准损失。在嵌套交叉验证评估的小型数据集上进行的初步实验表明，与标准方法相比，包含这些新损失并未显著改变泛化指标，尽管在损失函数内的模式相关性方面注意到了理论上的好处。
-
LSTM网络克服了AI中的梯度消失问题
两位研究人员Sepp Hochreiter和Jürgen Schmidhuber于1997年开发了长短期记忆（LSTM）网络，以解决循环神经网络（RNN）中的梯度消失问题。该问题阻止了RNN在反向传播过程中因重复乘法而从序列中较远的信息中学习。LSTM引入了一条独立的信息通道，使用可训练的门来控制其流动，使网络能够长时间保留相关数据。尽管最初推广缓慢，但LSTM论文变得极具影响力，在注意力机制和Transformer出现之前，为自然语…
-
AI历史探讨神经网络和深度学习里程碑
本文深入探讨了人工智能的历史进程，重点关注神经网络的演变以及随后的深度学习发展。文章回顾了塑造人工智能领域的关键里程碑和重大进展。
-
新的双重稳健估计器针对 CVR 预测偏差
研究人员开发了一种新的双重稳健因果效应估计器，专门用于点击后转化率 (CVR) 预测。该方法解决了现有因果推断技术应用于点击样本时固有的样本选择偏差和方差问题。所提出的框架利用了目标正则化，以提高数值稳定性和实际应用性，即使使用神经网络等灵活的非参数估计器，也能实现比干扰参数估计更快的收敛速度。在合成数据和真实世界数据上的实验证实了其有效性和稳健性，优于结合了损失去偏和标准因果估计器的方法。
-
新的 SaBRe 框架增强了 AI 安全的神经网络验证
研究人员开发了一个名为 SaBRe 的新框架，该框架使用分支定界方法来验证神经网络是否符合关系规范。这种方法对于确保网络物理系统中 AI 组件的安全性至关重要。SaBRe 通过分割关系神经元并采用新颖的选择策略来有效改进问题验证，从而优于现有技术。在 ACAS Xu 和 MNIST 等数据集上的评估表明，与基线方法相比，SaBRe 在解决实例和验证效率方面表现更优。
-
游戏中的 AI 对话控制：为 NPC 对话设定界限
dev.to 的两篇文章讨论了在 AI 增强游戏中管理 NPC 对话的方法，特别是以“上古卷轴 V：天际”为例。核心思想是在对话场景开始之前创建一个“卡片”或一组预定义的规则。这张卡片应概述谁在说话、对话的条件、可接受的回应界限以及越界时要采取的手动操作。作者强调，这种结构化的方法有助于控制 AI 驱动的对话，防止其偏离预期或不舒服的领域，同时又不扼杀对话的自发性。
-
新的度量学习方法分析视网膜图像，优于神经网络
研究人员开发了一种新颖的度量学习方法，结合了归一化压缩距离（NCD）和各向异性结构增强滤波器来分析和可视化3D视网膜图像的差异。该方法旨在克服神经网络等非度量方法的局限性，后者可能引入系统性失真。与医生测量的视野功能变化相比，NCD测量的结构差异在验证时显示出约0.5 dB的预测误差，优于非度量深度学习方法。提出了归一化压缩向量（NCV）作为测量视觉差异的特征集，并在青光眼患者和非人灵长类动物模型上进行了演示。
-
新的弱熵PINN框架解决了双曲守恒律中的不连续解问题
研究人员开发了一种新颖的弱熵PINN（WEPINN）框架，以解决使用神经网络求解具有不连续解的双曲守恒律的挑战。该新方法在其弱形式中强制执行控制方程，并整合熵条件以确保物理上可接受的解，利用离散快速傅里叶变换（DFFT）进行高效数值积分。大量实验表明，WEPINN能够准确地解析尖锐的不连续性，并捕捉一维和二维标量和系统守恒律中的复杂波相互作用。