实体
mechanism design
mechanism design
PulseAugur coverage of mechanism design — every cluster mentioning mechanism design across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
将AI对齐重构为使用福利经济学的社会选择问题
一篇新论文提出将AI对齐问题重新表述为社会选择问题，超越了标准的人类反馈强化学习。研究表明，通过关注算法的福利后果，可以使用线性优化以及福利经济学和机制设计中的工具来处理对齐问题。该框架允许将对齐协议转化为福利结果，反之亦然，并通过人类对肾脏分配和LLM响应等各种场景的偏好进行了实证演示。
-
新研究模拟 LLM 语义信号博弈与欺骗
本文引入了一个语义信号博弈模型，用于分析大型语言模型（LLM）如何调解战略互动和欺骗。该模型将接收者意识建模为影响感知的类型，形式化了“系统性盲视”，并将提示控制与博弈论分析联系起来。研究还提出了机制设计方法来重塑接收者意识并惩罚欺骗性控制，旨在减少网络钓鱼攻击并加强安全的人机通信。