实体
Probabilistic Transformer
Probabilistic Transformer
PulseAugur coverage of Probabilistic Transformer — every cluster mentioning Probabilistic Transformer across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
最近 · 第 1/1 页 · 共 3 条
-
美国政府限制对医疗保健专业人士的学生贷款
政府重新定义了“专业”学位一词,这将限制获得护理、物理治疗、职业治疗和公共卫生学位的人的贷款。尽管遭到各方强烈反对,但仍做出了这一决定。预计这一变化将对医疗保健行业产生负面影响,可能减少合格专业人士的数量。
-
探索概率Transformer在时间序列建模中的潜力:ST-PT框架报告
研究人员开发了时空概率Transformer (ST-PT) 框架,将概率Transformer (PT) 应用于时间序列建模。该框架将Transformer架构重构为可编程因子图,能够显式地设计图拓扑、势函数和消息传递调度。ST-PT框架通过三个研究问题进行探讨,研究其整合符号先验、实现条件生成以及通过原则性后验更新来改进预测的能力。
-
概率Transformer扩展至0.4B参数,性能优于标准模型
研究人员开发了一种方法,通过使用最大更新参数化(muP)将超参数从较小模型迁移到较大模型来扩展概率Transformer(PT)。该技术解决了PT对超参数选择的敏感性问题,使其能够高效地扩展到拥有多达0.4亿参数的模型。实验表明,在参数数量相同的情况下,这些扩展后的PT在掩码语言建模任务上的表现优于标准Transformer。