研究人员开发了一种方法来衡量和预测AI模型价值随时间的变化，特别是在自训练反馈循环中。该项目为期五周，利用群体遗传学工具研究这些“价值动态”。通过微调Qwen3-4B和OLMo-3-7B等模型并观察裁判如何选择训练数据，研究发现初始测量可以预测AI系统中价值变化的长期轨迹。 AI
影响 为理解和控制自训练AI系统中的价值漂移提供了一个框架。
排序理由 该条目描述了一个研究项目及其在AI价值动态方面的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><i><span>I completed this project over 5 weeks as part of a </span></i><a href="https://bluedot.org/courses/technical-ai-safety-project"><i><span>BlueDot Project</span></i></a><i><span> cohort. Feedback is welcome!</span></i></p><p><a href="https://gabeorosan.github.io/value-d…