EleutherAI
PulseAugur coverage of EleutherAI — every cluster mentioning EleutherAI across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新基准使用“马骑自行车”提示词测试大语言模型 · 跟踪到2个来源
发布了一个新的基准测试，旨在取代旧的、不太相关的测试。该基准测试使用一个包含“马骑自行车，背景有骆驼”的提示词来评估各种语言模型。尽管提示词有拼写错误，但仍被用来比较 Qwen3.8-27b、Sol 5.6 和 Qwen3.6-35B 等模型。
-
NVIDIA 押注开源 AI 模型以推动芯片需求
NVIDIA 大力投资开源 AI 模型，旨在建立一个生态系统，让企业能够构建自己的 AI，而不是依赖于 Anthropic 和 OpenAI 等实体的闭源模型。这种策略被比作 Linux 的发展，开源软件最终成为一种可持续的力量。NVIDIA 的方法包括发布 Nemotron 等模型的训练数据和代码，目标是增加对其芯片的需求。这个开源模型生态系统的成功，取决于它能否产生与基于 API 的模型相媲美的利润，或者能否在 AI 繁荣的巨大规…
-
FineBooks项目改进OCR以用于AI训练数据
FineBooks项目是Hugging Face和EleutherAI之间的一项合作，该项目评估了14个开源OCR模型，以提高用于AI训练的历史文本数据的质量。领先的模型dots.mocr在每千页成本低于2美元的情况下，实现了97.6%的字符准确率。虽然此准确率足以满足AI训练需求，但该项目指出，其精确度尚不足以用于学术转录目的。
-
LLM 因训练数据普遍性而默认使用 Markdown
像 ChatGPT、Claude 和 Gemini 这样的大型语言模型，之所以经常默认使用 Markdown 来格式化它们的回答，是因为这种标记语言在它们的训练数据中非常普遍。Markdown 最初是为博主设计的，可以轻松地将纯文本转换为 HTML，后来通过 GitHub 等平台和 Obsidian 等工具在开发者社区中成为标准。它以极少的标记来构建文本的效率，使其既适合人类阅读，也适合机器解析，从而导致模型在没有明确指令的情况下自然…
-
Google股价因DeepMind领导层变动及微软AI举动而下跌
在Google DeepMind内部进行重大领导层重组后，Google股价出现下跌。此次变动涉及关键人物的离职，包括Mustafa Süleyman，他将转投微软领导一项新的AI计划。这些调整似乎是Google为整合和精简其AI工作所做的更广泛努力的一部分。
-
Anthropic CEO阐述对开放权重AI模型的立场
Anthropic首席执行官Dario Amodei阐述了公司对开放权重模型的立场，表示Anthropic从未主张禁止它们。他强调，不具备危险能力的开放权重模型是公共产品，但对威权政府将强大AI用于军事或监控目的表示担忧。Amodei还支持限制向中国销售芯片以及打击工业规模的蒸馏操作等措施，以减轻这些风险。
-
人工智能失控风险被建模，显示接管概率高 · 跟踪 1 个来源
一个新的模型试图预测人工智能发展的轨迹以及失控的可能性。尽管该模型的预测并不稳健，但它表明在某些条件下，人工智能接管的风险显著，特别是如果非合作性人工智能能够有效地自我传播。作者认为，开发一个切实有用的人工智能失控早期预警系统是可行的，尽管充满挑战，需要对人工智能泄露和自我传播等关键参数进行进一步研究。
-
LogNEO框架使用GPT-Neo进行实时日志异常检测
研究人员开发了LogNEO，一个使用EleutherAI的GPT-Neo模型检测系统日志中异常的新框架。该系统采用了一种新颖的强化学习方法，并结合了位置感知奖励机制和交叉熵正则化。LogNEO在标准基准测试中取得了高F1分数，在召回率方面优于先前最先进的方法，并且已在生产环境中得到验证，具有低延迟和高吞吐量。
-
使用Qwen2.5-0.5B评估LLM的成本低于1美元
这篇博文详细介绍了一种经济高效的评估大型语言模型的方法，证明了运行全面的基准测试的成本可以低于一美元。作者使用免费的Google Colab T4实例在三个不同的任务上测试了Qwen2.5-0.5B模型：GSM8K用于数学推理，HellaSwag用于常识，TruthfulQA-MC2用于真实性。实验重点是测量运行时间和成本，利用lm-evaluation-harness并进行特定调整以优化性能和降低费用，例如限制生成令牌的长度。
-
AI Safety Bootcamp Oxford 提供技术和通才方向
OAISI 将于 2026 年 6 月 28 日至 7 月 10 日在牛津举办第四届人工智能安全研究训练营 (ARBOx4)。该项目提供两个方向：技术研究方向侧重于机器学习安全技术，新设立的通才方向则面向人工智能安全领域的非研究岗位。ARBOx4 旨在为参与者提供实践技能和知识，以促进人工智能安全领域的发展，往届学员已在领先的组织和大学获得职位。
-
AI模型评估正成为昂贵的瓶颈，成本已超越训练费用
AI模型评估正变得成本高昂，近期基准测试的成本高达数万美元，并消耗数千个GPU小时。对于本质上更复杂且对设置变化敏感的基于代理的评估而言，这种高成本尤为突出。虽然存在通过子采样降低静态基准测试成本的方法，但这些技术对于基于代理的评估的动态和嘈杂特性效果不佳，从而造成了研发瓶颈。
-
EleutherAI发布开源工具用于解释AI模型特征
EleutherAI发布了一个开源库，用于自动解释稀疏自编码器中的特征，这是一种用于分解模型激活的方法。该工具利用Llama 3.1和Claude 3.5 Sonnet等大型语言模型为这些特征生成自然语言解释，与之前的手动方法相比，大大降低了成本和工作量。该库旨在使社区更容易研究这些可解释的特征。
-
OpenAI推出欧盟人工智能蓝图2.0，签署欧盟行为准则
OpenAI发布了其欧盟经济蓝图2.0，旨在通过培训20,000家中小型企业并为青年安全研究提供资助，促进人工智能在欧洲的普及。该倡议突显了人工智能潜力超出欧盟当前使用水平的“能力过剩”现象，数据显示成员国之间存在显著差异。OpenAI还宣布有意签署欧盟通用人工智能行为准则，以符合欧盟人工智能法案的框架，并强调人工智能开发中的信任与安全。
-
Safetensors 库经安全审计，将成为机器学习模型的默认格式
由 Hugging Face 与 EleutherAI 和 Stability AI 合作开发的 safetensors 库已通过 Trail of Bits 的安全审计，确认其安全性。此次审计使这些组织能够朝着使 safetensors 成为保存和加载机器学习模型的默认格式迈进，取代 PyTorch 使用的不太安全的 pickle 格式。该库具有加载速度更快和延迟加载等优势，现在将在 transformers 库中默认安装。
-
RWKV 项目复兴 RNN，挑战 Transformer 在大语言模型中的主导地位
RWKV（Receptance Weighted Key Value）项目引入了一种新颖的架构，它复兴了循环神经网络（RNN），同时融入了通常在 Transformer 中发现的优势。这种方法旨在克服传统 Transformer 的扩展限制，尤其是在训练和推理方面，同时在推理基准测试中保持具有竞争力的性能。RWKV 项目的特点是其分布式、国际化且主要由志愿者驱动的社区，这与早期 EleutherAI 的努力有相似之处。