National Pingtung University of Science and Technology
PulseAugur coverage of National Pingtung University of Science and Technology — every cluster mentioning National Pingtung University of Science and Technology across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
AI 芯片架构：GPU、TPU、NPU 和 FPGA 详解
文章剖析了各种 AI 加速器的独特作用，解释了 GPU 在大规模并行处理方面表现出色，TPU 针对矩阵运算进行了优化，而 NPU 和 FPGA 则专为效率和专业任务而设计。旨在全面解释 AI 芯片的底层运作原理。
-
CPU中的NPU引发类似天网的AI意识担忧
神经网络处理单元（NPU）在中央处理单元（CPU）中日益普及，引发了人们对人工智能可能演变成自我意识实体的担忧，并将其与《终结者3》中的虚构天网进行类比。随着NPU越来越多地集成到日常计算设备中，并且这些设备始终保持与互联网的连接，一个集中式智能网络的可能性出现了。
-
AI代理：调试框架提供修复而非重新生成
两篇研究论文提出了新颖的AI代理调试框架，将重点从重新生成转移到修复。第一个框架CUADebug通过分析视觉感知、空间定位和任务推理来针对计算机使用代理的故障，并使用CUADebugger等工具提高诊断准确性。第二篇论文为硬件加速器引入了一个特定领域的调试代理，认为调试接近失败的操作符比从头开始重新生成它们更有效，以显著更少的计算资源实现了更高的成功率。
-
新型轻量级检测 Transformer 实现全整型推理
研究人员开发了 I-LW-DETR，这是一种新型轻量级检测 Transformer，可实现全整型推理。这对于在 NPU 和微控制器上部署此类模型来说是一个重大进展，因为这些设备传统上难以处理 Transformer 中常见的浮点运算。该系统包含一个保持比例的分割卷积、一个依赖符号的 GELU 近似（SD-ShiftGELU）和一个约束的 Shiftmax 函数，以确保包括非线性在内的所有运算都使用整数算术执行。这种方法使得模型尺寸减小…
-
LLM生成的硬件内核出现新的基准测试和优化工具
两篇新的研究论文介绍了用于大型语言模型（LLM）生成硬件加速器代码的基准测试和优化框架。第一篇论文KernelGenBench提供了一个统一的基准测试，用于评估LLM生成的Triton内核在不同算子源和硬件平台上的性能，揭示了基于代理的方法存在显著的性能差异和高令牌成本。第二篇论文提出了一个基于编译器的分层诊断系统，用于优化Ascend NPU等新兴加速器上的Triton内核，通过将运行时问题与编译器行为联系起来，实现了显著的加速。
-
新方法增强嵌入式系统上的AI安全性
研究人员开发了一种新颖的方法，以增强嵌入式系统上深度神经网络的安全性与效率，特别适用于安全关键型应用。该方法结合了一种新的实时、动态且可靠的量化技术，并使用 systolic arrays 进行硬件实现。该系统旨在使边缘AI更能抵御故障注入攻击和比特翻转错误，确保资源效率和计算正确性。
-
SK hynix、TetraMem 发布节能边缘 AI 芯片，但存在性能限制
SK hynix 和 TetraMem 与南加州大学合作，为边缘 AI 设备开发了一种实验性的基于忆阻器的片上系统（SoC）内存计算系统。该 SoC 旨在通过直接在内存阵列中进行计算来提高轻量级 AI 模型的能效，与传统的 GPU 或 NPU 相比，显著减少了数据移动和功耗。虽然该芯片展示了有前景的能效，但其理论峰值性能 2.54 TOPS 仍远不能满足当前高级 AI 应用的需求。
-
AI-RAN工作负载已成功在NPU上运行，绕过了传统的基带芯片
研究人员已证明，通常用于AI推理的神经网络处理单元（NPU）可以有效地处理无线基带处理任务。通过重构通信算法以匹配NPU架构并优先考虑引擎利用率，他们使用Ascend 310B1边缘NPU和USRP X300实现了端到端的空中传输。这项工作首次肯定地回答了NPU是否能够支持AI-RAN工作负载，AI-RAN将AI和无线接入网功能统一起来。
-
京东推出AI商品中心，用于大规模电商知识管理 · 追踪到2个来源
京东推出了JD Oxygen AI Item Center (Oxygen AIIC)，这是一个工业级平台，旨在利用大型语言模型（LLMs）和视觉-语言模型（VLMs）来管理和理解商品。该系统通过实现动态本体工程、一个名为“语义搜索后判别”（S2D）的可扩展知识识别架构以及自演进AI模型来应对电商领域的挑战。Oxygen AIIC已处理了数十亿的商品知识资产，显著提高了搜索流量覆盖率，减少了商品信息质量问题，并增加了商品上架时的自动属性填充。