Anthropic开发了一项名为GRAM的新技术,旨在消除或禁用AI系统中的危险知识。这个“开关”旨在充当AI的良心电路,阻止其访问或利用有害信息。此外,该公司Claude Fable 5模型通过“Orchestrator模式”展示了节省成本的技术,据报道将运营费用降低了46%。 AI
影响 这项开发可以通过提供一种控制危险知识的机制并提供节省成本的功能来提高运营效率,从而增强AI安全性。
排序理由 该集群讨论了Anthropic开发的一项新技术(GRAM)和一个模型功能(Orchestrator模式),符合研究类别。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →