实体
Direct Steering Optimization
Direct Steering Optimization
PulseAugur coverage of Direct Steering Optimization — every cluster mentioning Direct Steering Optimization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
大型语言模型通过新技术解决模型崩溃、偏见和推理成本问题
开源大型语言模型工具包 LLM 0.32a1 的新版本已发布，修复了存储在 SQLite 中的工具调用对话中的错误，提高了 AI 代理的可靠性。此外，关于大型语言模型自适应思维的研究表明，通过动态分配推理资源，自洽性可以将推理成本降低 40%。另外，与康奈尔大学合作开发的一种名为直接引导优化 (Direct Steering Optimization) 的新方法，可在不影响性能的情况下将视觉语言模型中的人口统计偏见有效降低高达 62%。
-
Apple研究人员开发直接引导优化以缓解AI偏见
研究人员开发了直接引导优化（DSO），一种用于缓解视觉语言模型（VLMs）和大型语言模型（LLMs）等生成模型偏见的新颖方法。DSO采用强化学习来转换模型激活，从而可控地减少诸如将女性误认为处于职业角色等偏见。与现有方法相比，该方法在公平性和性能之间提供了更优的权衡，使用户能够在推理时控制这种平衡。