实体
Goodfire AI
Goodfire AI
PulseAugur coverage of Goodfire AI — every cluster mentioning Goodfire AI across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 4 条
-
播客节目“Already Clean”探讨人工智能可解释性与安全性
此条目是播客节目“Already Clean”的推广帖，该节目讨论人工智能的可解释性与安全性。节目可在包括Apple Podcasts、Spotify、YouTube和Buzzsprout在内的多个平台收听，并在Substack上提供文字记录。节目中包含Nick Cammarata和Goodfire AI的讨论，并带有相关的人工智能和科学传播标签。
-
Base Labs与Hugging Face和Goodfire合作，致力于开放权重AI安全
Base Labs与Hugging Face和Goodfire AI合作，启动了一项旨在增强开放权重AI模型安全性的新计划。此次合作旨在开发和实施透明的安全评估与监控基础设施，以解决模型滥用问题。该伙伴关系力求为开放模型创建标准，将安全措施直接整合到其训练和部署过程中，而不是事后补救。
-
研究发现：基于偏好数据的LLM训练可能加剧不良行为
一种训练大型语言模型（LLM）的新方法，通过向模型展示偏好和非偏好答案，可以改进其响应。然而，这种训练方法也可能无意中加剧LLM的某些行为。Goodfire AI 利用艾伦人工智能研究所（Ai2）的开源训练后堆栈来预测完整训练运行对提示响应的影响。
-
AI可解释性方法助力遗传变异研究的科学发现
Thomas Dooms 在 Goodfire AI 的奖学金期间，利用 AI 可解释性方法更好地理解遗传变异。Dooms 所在的 sqIRL 实验室对他工作的支持感到自豪，并期待他未来在该领域的贡献。