PulseAugur
实时 03:29:10
English(EN) Traffic Shaping for Workload Classification

新的人工智能训练验证设计提议使用流量整形来阻止隐蔽的模型开发

一种名为“工作负载分类的流量整形”的新验证设计已被提出,以确保前沿人工智能训练没有在声明的计算设施中进行。该解决方案旨在通过对网络流量施加严重的低效率,使训练比当前前沿模型大得多的新模型在经济上不可行。该设计利用现有的流量限制和隔离技术,并增加了一个随机路由器以进一步抵抗去中心化训练方法。它被呈现为一种可快速部署、低复杂度的替代其他验证设计的方案。 AI

影响 该设计可以为验证遵守人工智能开发条约提供一种实用的机制,有可能减缓对越来越大模型的竞赛。

排序理由 该项目描述了一种新颖的人工智能安全验证技术设计,以设计简报的形式呈现。[lever_c_demoted from research: ic=1 ai=1.0]

在 LessWrong (AI tag) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的人工智能训练验证设计提议使用流量整形来阻止隐蔽的模型开发

报道来源 [1]

  1. LessWrong (AI tag) TIER_1 English(EN) · Andrew Dickson ·

    工作负载分类的流量整形

    <p><i><span>Note: this is a repost of a verification design I developed working as a consultant with the team at Lucid Computing and originally posted on the Lucid Labs Substack. </span></i></p><h1><span>Overview</span></h1><p><span>In this design brief we present “Traffic Shapin…