实体
Pietro Barbiero
Pietro Barbiero
PulseAugur coverage of Pietro Barbiero — every cluster mentioning Pietro Barbiero across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的图形化符号简化了可解释AI架构的设计
研究人员开发了一种新的图形化符号，该符号改编自Penrose张量符号，用于设计和表示可解释的AI架构。该符号提供了架构的全局视图，并直接映射到PyTorch einsum代码，提高了可复现性。该系统已被用于描述各种可解释模型，包括概念瓶颈和原型网络，并应用于图解Steerling-8B这一前沿语言模型的组件。
-
新研究论文通过对称性重新定义AI可解释性
一篇新论文提出，应使用对称性框架重新定义AI中的可解释性概念。作者认为，当前的定义对于形式化测试或设计来说是不够的。他们引入了四种特定的对称性——推理等变性、信息不变性、概念闭包不变性以及结构不变性——并相信这些对称性可以将可解释模型形式化为概率模型的一个子集。这种方法旨在统一可解释的推理方法，并为验证是否符合安全和监管标准提供一个正式系统。