Samaresh Kumar Singh

新的XaaS架构将AI推理与边缘设备的解释生成解耦

研究人员推出了一种名为可解释性即服务 (XaaS) 的新型分布式架构，旨在提高边缘设备AI解释的效率和可扩展性。该系统将解释生成与模型推理解耦，允许边缘设备根据资源限制请求和缓存解释。主要创新包括具有语义检索的分布式缓存、轻量级验证协议以及用于选择解释方法的自适应引擎。在制造、自动驾驶汽车和医疗保健用例上的评估表明，在保持解释质量的同时，延迟降低了 38%。