risk management
PulseAugur coverage of risk management — every cluster mentioning risk management across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
MLOps治理缺口导致公司对模型错误缺乏问责
文章讨论了建立清晰的MLOps治理的重大挑战，并指出许多公司在机器学习模型出错时缺乏明确的问责机制。文章强调，这种缺乏所有权的情况会在患者依从性和安全性等领域带来风险，因为没有明确的实体负责处理模型错误决策的后果。文章认为，这种治理缺口是一个组织不愿解决的问题。
-
新型DTD-VAE模型通过解耦时序数据增强信用风险预测能力
研究人员开发了一种名为DTD-VAE的新型变分自编码器模型，旨在通过解耦客户数据中的时序依赖性来改进信用风险预测。该模型区分了与信用风险相关的模式和反映一般客户行为的模式。在六个真实世界数据集上的实验表明，DTD-VAE的性能优于现有方法，准确率提高了9.71%。
-
欧盟《人工智能法案》强制要求新的人工智能基础设施架构以符合规定
欧盟《人工智能法案》的高风险义务现已生效，给使用人工智能的组织带来了巨大的合规压力。这项立法突显了人工智能基础设施发展的结构性转变，要求系统在构建时就内置对有关其架构、人工监督和问责制的监管问题的答案。能够快速执行多步决策的代理式人工智能系统进一步压缩了人工干预的时间窗口，因此需要将监督设计到最初授予代理权限中，而不是依赖于事后批准。
-
新的生成模型可估算超出观测数据的极端事件概率
研究人员开发了一种名为自相似生成估计（SS-GEN）的新方法，用于模拟多元极端事件和估算稀有事件的概率。该技术将尾部分布分解为径向和角向分量，使标准的深度生成模型能够从紧凑域中学习。SS-GEN 旨在生成代表性的极端场景并估算超出观测数据的概率，为专用架构或参数化尾部规范提供了替代方案。
-
新的文字冒险游戏“The Game II”探讨人工智能和网络安全
一款名为“The Game II”的文字冒险游戏已经发布，玩家将置身于一个神秘的场景中，他们醒来时身处一个红色谷仓外，对周围环境毫无记忆。游戏挑战玩家探索谷仓，里面只有一个电脑终端，并涉及网络安全、治理、风险管理和人工智能等主题。
-
新框架分析多主体系统以实现最优序和集体智能
一项新的研究论文介绍了一个用于分析多主体系统的框架，重点关注主体能力和响应函数，以理解涌现的宏观特性。该研究推导出了一个最优序度，该序度平衡了生产力、稳定性和适应性，并表明同步性增加可以提高产出，但也可能增加脆弱性。该论文认为，序和熵等概念是系统相关的，并提出了优化集体行为和识别涌现集体智能条件的方法。
-
“邪恶土豆”网络安全游戏揭示AI评估风险
一位网络安全专家开发了一款名为“邪恶土豆”（Evil Spud）的游戏，以突出AI评估过程中潜在的风险。该游戏旨在揭示漏洞，并鼓励技术领域内更好的治理和风险管理实践。它被设计成一个警示故事，讲述可能破坏AI评估的“有毒土豆”。