Shakespeare
PulseAugur coverage of Shakespeare — every cluster mentioning Shakespeare across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新的审计器验证AI遗忘算法的有效性
研究人员开发了一种新的审计方法来评估机器学习遗忘算法的有效性。该审计器使用成员推理攻击来计算遗忘参数$\varepsilon$的数据相关下界。研究发现,具有正式保证的算法(如模型剪枝和回溯删除)表现良好,而经验方法则显示出较差的遗忘结果。该框架提供了一种实用的方法来经验性地测试和潜在地证伪关于遗忘的声明。
-
新的AI检测器声称准确率达99.5%,具备通灵般的分析能力
一款新的AI检测器声称在识别AI生成文本方面准确率高达99.5%,并承诺以惊人的深度分析内容。该工具提供无限次检查和高级PDF报告,并幽默地提及它可能产生更多行政任务。
-
无梯度EntropyBeam模型在莎士比亚基准测试中优于nanoGPT
一款名为EntropyBeam的新语言模型在nanoGPT莎士比亚基准测试中表现出卓越的性能,其交叉熵低于nanoGPT模型。EntropyBeam在没有可训练参数的情况下运行,通过计算将字符上下文映射到下一个字符频率的计数表,在单通道中完成学习。虽然它比nanoGPT的学习参数(60,192个)存储更多的数据(270万个上下文-转换条目),但它通过加权几何平均值组合多个加权顺序的独特方法实现了更高的准确性。
-
GZIP压缩算法被探索为语言模型
一篇博文探讨了使用GZIP压缩算法作为语言模型的概念,将压缩与预测进行类比。作者演示了通过预先输入文本语料库,GZIP可以生成具有一定连贯性(尽管不完美)的续写。这是通过利用DEFLATE算法的字节匹配机制实现的,其中可预测的序列会压缩成更少的字节,从而有效地充当概率模型。
-
NeuronFabric 架构支持片上 Transformer 训练
研究人员推出 NeuronFabric,这是一种专为使用本地 Adam 更新进行片上 Transformer 训练而设计的软件参考架构。一个 C# 原型证明了该方法的可用性,无需外部框架即可处理前向传播、反向传播和 Adam 优化。该架构旨在通过将权重存储在 BF16 中,同时将 Adam 优化器矩保留在 FP32 中(一种称为 BF16W 的配置)来减少内存需求。该方法在训练 Shakespeare 语料库的 334K 参数 Tra…
-
AI生成莫里哀新剧,包含对话、音乐和布景
名为Le Chat的AI工具被用于创作一部新的喜剧《Molière Ex Machina》,并在凡尔赛宫首演。AI为该剧的对话、音乐、服装和布景做出了贡献。这标志着人工智能在戏剧创作中的重要应用,并与莎士比亚等剧作家的文化影响力相呼应。
-
大语言模型(LLMs)让我们得以一窥人工智能的巨大潜力
大语言模型(LLMs)为我们打开了一扇了解人工智能巨大潜力的窗口,这与一百万只猴子最终会写出莎士比亚作品的概念相呼应。这个类比突显了人工智能系统的巨大规模和涌现能力。
-
作者从头开始训练自己的LLM,发现成本对于大多数用例来说是高昂的
一位开发者详细介绍了2025年从头开始训练自定义大型语言模型(LLM)的真实成本,并将其与一个流行的教程进行了对比。虽然训练一个1000万参数的小型模型用于教育目的成本不高,仅为0.34美元,但扩展到一个10亿参数的模型则需要大量资源。这样一个扩展后的模型在RTX 4090上大约需要694小时,成本约为305美元,而且这个估算还没有考虑到潜在的中断。
-
作者认为AI通过完善写作、消除瑕疵和原创性来侵蚀人声。
作者认为,AI生成写作的日益完善正在削弱人类表达的价值。她认为,人类写作中混乱、不完美的本质,包括错误和独特的措辞,对于培养个人声音和促进真实的情感联系至关重要。她相信,语言的这种演变正在被AI抹平,导致深刻影响的丧失。