Circuits
PulseAugur coverage of Circuits — every cluster mentioning Circuits across labs, papers, and developer communities, ranked by signal.
-
论文使用电路复杂度分析Transformer的表达能力
一篇新论文探讨了Transformer的表达能力,Transformer是现代大型语言模型(LLM)的核心组成部分。该研究通过将其与已建立的计算模型进行比较来构建Transformer的能力,特别是使用电路复杂性概念。这种方法通过将Transformer的资源使用(如注意力机制和精度)与门类型、大小和深度等电路参数相关联,从而精确地校准Transformer作为语言识别器可以实现的目标。
-
Mastodon 用户 @negativepid 涵盖多元科技与网络安全话题
该集群汇集了 Mastodon 账户 @negativepid 的多篇帖子,涵盖了技术和网络安全领域广泛的主题。帖子涉及了诸如 Ray Tomlinson 发明电子邮件和 Paul Mockapetris 在 DNS 方面的工作等历史性数字创新,以及诸如 BreachForums 的重新启动、密码学作为权力工具的使用以及 CEO 语音深度伪造诈骗的兴起等当代问题。此外,帖子还探讨了机器人作为伴侣的潜力,并深入研究了量子门和电路等技术主…
-
Certification Hard for Transformers and Circuits
一篇新的研究论文探讨了验证神经网络(尤其是 Transformers 和电路)精确行为的难度,即使在参数过剩极少的情况下也是如此。研究表明,即使给阈值电路增加一个额外的门,也可能使所需的验证证书大小呈指数级增长。对于对数精度 Transformers 也显示出类似的硬度结果,这表明为这些模型提供精确性保证是一个计算上具有挑战性的问题。
-
CircuITS模型利用概率电路推进不规则时间序列预测
研究人员推出了一种用于预测不规则多元时间序列的新架构 CircuITS,该架构利用概率电路。该方法旨在通过更好地平衡模型表达能力与一致的边际化来提高不确定性量化的准确性。在真实数据集上的实验表明,CircuITS 在联合和边际密度估计方面优于现有的最先进方法。