Prospective Regret Architecture (PRA)

新论文表明，AI代理很快就能在行动前感到后悔

一篇题为《前瞻性后悔架构》（Prospective Regret Architecture, PRA）的新论文提出，为AI代理配备一种在做出决策前预判后悔的机制。与传统上仅最大化预期价值的代理不同，PRA建议代理应该模拟每种选择潜在的负面结果以及相关的后悔。这种前瞻性后悔随后被用作一种惩罚，影响决策过程，使其倾向于更安全的选择，并通过一个可调参数来控制代理对后悔的规避程度。该系统还包括一个事后校准器，用于根据实际结果调整未来的后悔规避。