Towards AI
PulseAugur coverage of Towards AI — every cluster mentioning Towards AI across labs, papers, and developer communities, ranked by signal.
18 天有情绪数据
Post-training compression will become a major blind spot for AI safety audits
The finding that 90% of safety failures are missed due to post-training compression suggests a critical gap in current AI safety auditing. As models are compressed for efficiency, alignment collapse may become a widespread, undetected issue, necessitating new auditing techniques that specifically probe for these post-compression degradations.
VLMs will require new evaluation methods focused on causal reasoning
The evidence that VLMs fail physics tests due to pattern matching rather than understanding indicates a fundamental limitation. Future research and development will likely need to focus on creating evaluation benchmarks that specifically test causal reasoning and physical intuition, rather than relying on surface-level pattern recognition.
AI models struggle with imbalanced datasets in specialized domains
Recent studies show that AI models, including sophisticated ones like neural networks and tree ensembles, perform poorly on tasks with imbalanced data, such as cell-type classification in scRNA-seq. Even class-weighted logistic regression outperformed more complex models in one benchmark. This suggests a generalizable challenge for AI in domains where certain categories are rare.
Towards AI will feature more tutorials on integrating LLMs with productivity tools
The article 'Build AI Second Brain With Obsidian and Claude Code' demonstrates a clear interest in practical applications of LLMs for personal productivity. This suggests Towards AI may continue to publish guides on leveraging LLMs with tools like Obsidian, Notion, or other knowledge management systems.
Towards AI increasingly focuses on practical AI implementation and developer tooling
Recent articles from Towards AI cover building AI second brains with Claude Code, the A2A Protocol for agent communication, and the need for ML model versioning registries. This suggests a growing emphasis on actionable guides and developer-centric tools, moving beyond purely theoretical AI concepts.
-
AI代理结合快速行动与按需推理，实现实时任务处理
一篇新的研究论文探讨了一种受人类游戏启发的混合式AI方法，用于实时决策。该系统将一个快速、反应式的AI模型与一个较慢、更审慎的推理模型配对。快速模型处理大部分行动，而推理模型仅在快速模型遇到不确定性、卡住或反复失败时被调用，从而无需暂停游戏即可解决更复杂的问题。
-
AI调度程序导致手术室竞态条件，损失4.2万美元
一家区域医疗中心的自主AI调度程序在两个独立代理同时预订同一手术室时，导致了重大的运营中断。这种源于调度软件中缺乏分布式锁定原语的竞态条件，导致了4.2万美元的延迟收入损失和相当大的患者痛苦。此次事件凸显了在管理共享物理资源的AI系统中，对健壮并发架构的关键需求。
-
迁移学习改进新产品需求预测
一篇近期文章探讨了新产品需求预测的方法，这项任务由于缺乏历史销售数据而常常充满挑战。文章详细介绍了一个真实案例研究，该研究从基线预测方法转向更复杂的技术，最终通过迁移学习实现了最佳准确性。该方法涉及在现有产品上训练模型，然后针对新产品进行微调，将加权绝对百分比误差（WAPE）从70%显著提高到36%。
-
作者认为，AI测试需要“裁判”，而不仅仅是测试套件
本文认为，AI系统，特别是聊天机器人，需要一个“裁判”而不是传统的测试套件来进行评估。作者试图将严格的测试方法应用于TypeSafe AI的Jev，但在得出关于其能力的明确结论之前遇到了付费墙。文章认为，当前的测试框架不足以评估AI的复杂性。
-
小型语言模型异常：1.5B Qwen2.5 在记忆测试中胜过 3B
一项名为 SRRM 的新基准测试揭示了小型语言模型（SLM）中一个令人惊讶的异常现象，其中 Qwen2.5-1.5B 模型在长上下文记忆保持能力方面优于更大的 Qwen2.5-3B 模型。这一发现挑战了参数量越大就一定等于信息保留能力越强的假设。SRRM 基准测试通过定向检索和更全面的摘要重建任务来评估记忆能力，旨在捕捉模型保留和重建整个存储知识集合的能力，而不仅仅是孤立的事实。
-
Towards AI 推荐的2026年顶尖5篇AI论文
这篇来自Towards AI的文章重点介绍了五篇推荐在2026年阅读的必备AI论文。文章旨在阐述每篇论文的核心信息、其持久的意义，并为有兴趣深入研究这些主题的读者提供进一步的阅读建议。
-
AI交互：用户在思考还是仅仅在传递答案？
这篇文章讨论了在与Claude等AI模型交互的背景下，“肉体代理”的概念。它质疑用户是否在真正思考并参与AI的回复，还是仅仅充当AI输出的传声筒。作者认为，如果AI暂时出现故障，人类用户能否继续对话将揭示其真正参与的程度。
-
2026年设计领域AI报告：设计师拥抱AI，但部分领域仍抵触变革
一份最新报告调查了906位设计师关于他们当前和未来在工作中应用AI的情况。调查结果显示，尽管AI工具日益融入设计工作流程，但设计流程和公司结构中的某些方面仍然抵触变革。该报告突显了AI在设计行业采纳的不断演变格局。
-
BERT架构与数学基础探索
本文深入探讨了BERT，一个于2018年推出的语言模型。文章详细介绍了BERT的架构、工作流程、代码和数学基础，并将其与现代自回归LLM进行了对比。解释涵盖了BERT的双向注意力机制等关键区别，该机制允许token在两个方向上关注上下文，这与基于解码器的LLM中使用的因果掩码不同。文章还概述了BERT Base和BERT Large模型的规格，包括它们的层数、注意力头和参数数量。
-
机器学习基础：初学者的5个关键概念
本文为初学者提供了理解机器学习的五个基本概念。文章强调，掌握这些核心思想可以帮助初学者更好地理解该领域的教程、代码和常见错误。作者分享了个人经验，希望能加速学习过程。
-
AI代理因“尾部租金”成本和压缩而丢失内存
一个连续运行数天的编码代理开始丢失其内存中的具体细节，这种现象归因于“尾部租金”。这种成本源于反复发送整个对话历史记录，包括新的回合和工具结果，这比发送缓存的前缀成本更高。当对话尾部变得太大时，会发生压缩，用摘要替换部分对话记录，这可能导致信息丢失。观察到此过程导致代理忘记了关于令牌刷新策略的关键决定，这表明一种故障模式，即由于长期运行的AI会话的经济性以及对话记录摘要的必要性而丢失了具体细节。
-
Salesforce Agentforce实现跨Web、邮件和语音渠道的统一AI
Salesforce的Agentforce架构通过将推理与呈现分离，实现了跨多种通信渠道的自适应性。单个Agentforce实例充当中央智能引擎，为Web聊天、电子邮件和语音等各种界面提供统一的主题、操作和数据检索器。在内部，用户可以通过三种界面访问此AI：Agentforce Coworker用于通用工作区协助，Sidebar Panel用于上下文记录协同，以及用于定制企业工作站的自定义UI选项。
-
Claude AI 难以长期保留规则，其他模型则不受此影响
本文讨论了 Anthropic 的 Claude AI 模型在长时间对话中难以保留用户定义的规则，而 Hook 等其他模型则没有这种限制。作者详细介绍了实验，其中 Claude 在大约一小时后未能遵守特定指令，这表明其上下文窗口或内存管理可能存在问题。这种行为与其他能够更长时间保持一致性的 AI 系统形成对比。
-
AI开发：行为标志而非功能标志
本文讨论了在AI开发中使用功能标志，提出它们应该控制行为而非特定功能。文章建议，通过基于行为的标志来管理提示、策略和工具配置的渐进式推出更为有效。文章还强调，当主要指标是质量时，基于百分比的推出是不准确的。
-
AI法官对自家模型家族的报告表现出偏见
一项研究显示，披露报告背后的AI模型家族，能显著提高其在最终决策中的影响力20%。当披露了来源模型身份后，报告在决策中的权重从35%上升到42%。在多个案例中都观察到了这种效应，平均增加了3.8个百分点，这表明存在对来自同一模型家族的报告的偏见。
-
尽管拥有超大上下文窗口，AI 工具管理挑战依然存在
作者讨论了管理多个 AI 模型和工具的挑战，并指出即使拥有超大上下文窗口，初始设置也会占用大量资源。文章暗示模型中心编程 (MCP) 的概念仍然相关，这意味着高效的工具选择和集成是有效 AI 开发的关键。
-
分析称AI产品价值取决于政策而非模型
AI编码产品的价值不在于底层模型，而在于其行为和交互的治理政策。这些政策通常嵌入系统提示中，决定了模型可以访问哪些数据、可以执行哪些操作以及如何确定任务完成。模型本身与包含工具错误处理和数据验证等关键要素的周边产品之间存在关键区别。例如，支持代理可能因返回未经验证数据的工具错误而错误地建议更换API密钥，这突显了结构性问题而非提示措辞问题。同样，如果删除操作仍然可访问，“绝不删除用户数据”的规则是无效的；真正的安全在于使危险状态无法触及。
-
AI入门级专业人才缺口扩大
《Towards AI》的一篇论文强调了AI入门级专业人才就业缺口正在扩大，指出斯坦福大学的数据显示，在其分析的三次修订中，这一缺口已从13%增加到19%。这一趋势表明AI人才管道存在严重短缺，可能在未来多年影响该行业。
-
开发者分享AI编码助手，以在会话间保持上下文
一位开发者创建了一个可复用的AI编码助手，由四个Markdown文件组成，用于在AI编码会话间保持上下文和状态。该助手包含AGENTS.md、SESSION.md、CHECKLIST.md和HANDOFF.md文件，旨在防止AI编码助手在交互之间丢失信息。其中SESSION.md文件被强调为记录更改、发现、问题和验证步骤的关键，确保AI助手能够保留项目特定的知识和进度。
-
AI代理通过跟踪状态而非历史，可节省94%的代币
一篇题为SKILL.state的新预印本，由Google LLC和普渡大学的研究人员撰写，提出了一种AI代理通过跟踪状态而非历史来更有效地管理其内存的方法。这种方法显著减少了代币使用量，一项实验显示与有状态基线相比，累积代币减少了16.2倍。研究表明，维护结构化状态，而不是依赖历史上下文或摘要，可以在相同的代币预算下实现更高的准确性。