decision model

AI决策阈值是任意的政策，而非客观的数字

文章认为，在AI决策中使用的数值阈值，尤其是在支付系统中，往往是任意的，并且与系统的实际行为或后果缺乏明确的联系。这些阈值通常是基于便利性或供应商示例设定的，而不是基于严格的分析，它们决定了一个案例是由机器还是人工处理。这可能导致机器执行了本应由人工审查的决策，或者导致未得到充分人员配置的人工队列积压。作者强调，模型的置信度分数预测了其自身的命中率，应该进行校准，而阈值本身是基于对不同结果成本的理解而做出的政策决定，而不仅仅是模型的报告置信度。