Institute for Human-Centered Artificial Intelligence
PulseAugur coverage of Institute for Human-Centered Artificial Intelligence — every cluster mentioning Institute for Human-Centered Artificial Intelligence across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
AI教育将重点从死记硬背转向人机协作
Sovorel 的一篇博文讨论了教育领域 AI 技能不断变化的格局，强调传统的评估方法由于 AI 的能力而变得过时。作者使用 Gemini Extended Thinking 和 Google Search，强调学生需要培养超越基本提示工程的技能，专注于学科精通、人类判断、AI 流利度、解决问题和领导力。这种方法与联合国教科文组织和世界经济论坛的框架一致，这些框架强调以人为本的心态、道德和高级 AI 能力对未来就业市场的重要性。
-
研究人员发现数字孪生退化信号表明存在网络物理攻击
研究人员开发了一个新的框架，通过监控数字孪生的时间不一致性来检测网络物理攻击。该方法在正常系统行为上训练数字孪生预测器，然后分析预测状态与观测状态之间的差异。这些不一致性被转化为捕捉预测残差演变的时间特征，然后由无监督密度模型和序列变化检测机制使用，以识别表明攻击的偏差。该框架已在工业控制系统数据集上进行了评估，即使在数字孪生视图退化的情况下，也显示出高检测可靠性和低误报率。
-
李飞飞：AI增强人类能力，而非取代
李飞飞在最近的一次采访中强调，AI是人类能力的放大器，而非替代品。她讨论了AI在视觉处理方面的起源，将生物进化与AI发展进行类比，并强调了ImageNet等大型数据集在推动现代AI发展中的关键作用。李飞飞还谈到了AI目前的局限性，特别是在理解主观人类体验和情感方面，将AI的数据驱动模式识别与人类的直觉和创造力进行了对比。她主张在医学等领域采取人与AI协作的方法，AI可以处理大量信息并弥合知识差距，最终增强人类专业知识并加速科学发现。
-
HackerOne 转向人工智能安全，将重点从漏洞赏金转移
曾经是漏洞赏金领域的先驱，HackerOne 已发展成为一个更广泛的人工智能安全平台。虽然仍协助漏洞提交，但公司的重点已转向自动化安全工作流，包括 AI 红队测试和代理测试。这一战略转型旨在应对人工智能产生的日益增长的漏洞数量和复杂性，提交量同比显著增长。公司的演变引发了对其与最初成功基础安全研究人员之间关系的疑问。
-
斯坦福研究：AI伴侣可能加剧孤独感
斯坦福大学人类中心人工智能研究所的一项新研究表明，AI伴侣可能会加剧弱势用户的孤独感。研究表明，这些数字互动可能无意中加深社交孤立，而不是缓解它。
-
DeepSeek V4 Flash API 显示幻觉减少，引入空回复问题
对 DeepSeek V4 Flash 模型稳定 API 的一项最新测试显示，与 4 月预览版相比，幻觉率有了显著改善。该模型现在会主动拒绝捏造答案，而是引用其知识截止日期或表示无法提供信息。然而，在思考模式中出现了一个新问题，即模型会将其全部输出预算用于复杂问题的内部推理，导致空回复，并对代理工作流构成挑战。
-
AI聊天分享链接带来隐私风险，通过搜索引擎暴露敏感数据
开发者需要优先考虑AI聊天分享链接的隐私问题，因为这些链接可能会通过搜索引擎无意中暴露敏感信息。最近发生的Claude聊天记录出现在Google和Bing搜索结果中的事件凸显了这一风险。虽然ChatGPT和Claude等平台提供了管理分享链接和用户记忆的方法，但核心问题在于用户对隐私的认知与搜索引擎索引URL的方式之间存在不匹配。开发者必须将可分享的对话视为具有生命周期的内容，实施超越简单链接分享的强大隐私控制。
-
超大规模、主权人工智能和量子计算重塑企业战略
超大规模基础设施、主权人工智能和量子计算正在融合，重新定义企业战略和地缘政治力量。数据中心已从单纯的存储演变为活跃的计算中心，大量全球资本正涌入人工智能基础设施，尤其是GPU。这一转变要求组织进行战略性重新评估，因为计算能力已成为企业战略和竞争力的基础要素。各国政府也在优先发展主权人工智能计划，大力投资国内数据中心和人工智能模型，以确保数字独立和国家安全。
-
新AI方法为网络物理系统中的异常检测建模正常行为
研究人员开发了一种在多模态网络物理系统中检测异常的新方法，该方法通过建模正常行为而非故障来检测异常。这种方法基于关于不平衡多模态（MIIM）的十项假设，使用具有显式高斯混合模型聚类的联合学习潜在表示。该方法在三个真实世界数据集（WADI、HAI、SKAB）上表现出优越的性能，在复杂的、多模态场景中尤其优于现有的深度检测器。
-
Vectara 推出托管 RAG 平台；新的评估方法出现
Vectara 推出了一个 RAG-as-a-Service 平台，旨在解决检索增强生成系统常见的生产挑战。该平台提供了一个完全托管的管道，从文档摄用到响应生成，利用 Boomerang 等专有模型进行嵌入，Mockingbird 进行生成。一个关键特性是其集成的治理功能，包括幻觉检测和事实一致性检查，目标是在即使有大量文档集的情况下也能实现超过 90% 的答案准确率。另外，一种自动评估 RAG 系统质量的方法已被开发出来，它通过使用…
-
人工智能将工作场所的价值从产出转向人类判断
生成式人工智能使原始产出变得丰富且廉价，将工作场所的价值从生产转向判断。由于人工智能现在可以快速生成备忘录、模型和代码，关键技能变成了人类的品味，以评估产出的质量、战略和必要性。报告显示，分析性思维是最受欢迎的技能，因为人工智能的不可靠性和产生幻觉的倾向需要人类监督来验证和决策。领导者现在必须管理判断力，而不仅仅是产出，因为人工智能可能会用看似合理的人工智能生成的结果掩盖真正能力的缺乏。
-
新论文发现算法招聘工具加剧种族偏见
斯坦福大学HAI的一篇新论文揭示，算法招聘工具会加剧种族偏见，并导致系统性地拒绝求职者。该研究提供了对这些“黑箱”系统内部运作的罕见洞察，展示了它们对各种应用中的求职者的负面影响。
-
美国人工智能经济年投资创纪录，飙升2600%
美国的人工智能经济正以每年2600%的实际增长率经历前所未有的增长。这种快速扩张得益于巨额投资，2025年美国私人人工智能投资达到2859亿美元。这些数据来自斯坦福HAI的2026年人工智能指数报告。
-
尽管美国进行了巨额投资，但AI的真正成本仍然难以捉摸
AI的成本是影响公司和未来社会发展的关键因素，但它仍然难以量化。尽管2025年美国私营AI投资达到2859亿美元，但这种资金的涌入也给环境资源和公用事业带来了压力。“Tokenmaxxing”的概念由于这些潜在成本，不被认为是可行的AI策略。
-
AI 模型错误率高，需要人工事实核查
AI 模型经常产生不准确的信息，研究表明错误率在 20% 到 60% 以上不等，具体取决于模型和任务。虽然 AI 可以协助处理大量数据以识别需要人工调查的潜在声明，但它尚未达到可独立进行事实核查的可靠程度。专家强调需要人工监督，尤其是在研究、医学和金融等领域的高风险查询中，因为 AI 的文本生成过程可能会产生听起来流畅但完全错误的内容。
-
斯坦福大学合并AI项目，聚焦以人为本的研究与伦理
斯坦福大学正在将其两个主要的AI计划——斯坦福数据科学计划（Stanford Data Science initiative）和斯坦福人本人工智能研究所（Stanford Institute for Human-Centered AI, HAI）——合并到一个统一的品牌下，即斯坦福人本人工智能研究所（Stanford HAI）。此次合并旨在将技术AI的进步与伦理考量、政策、安全和社会影响相结合。合并后的研究所将利用大量的计算资源，包括…
-
Stanford HAI 发布 2026 人工智能指数报告，详述行业趋势
斯坦福大学发布了其 2026 人工智能指数报告，详述了人工智能领域的趋势和进展。该报告涵盖了人工智能领域的广泛主题，提供了对其发展和影响的见解。这份年度出版物是理解人工智能当前状况和未来轨迹的关键资源。
-
Replit 和斯坦福 HAI 发布 Spellburst 创意编程工具
Replit 与斯坦福 HAI 合作开发了 Spellburst，一个新颖的、由 LLM 驱动的创意编程环境。该工具旨在通过将自然语言提示与直接编码和混合控件相结合，为生成 p5.js 草图提供帮助，从而辅助编码人员进行探索和迭代。该项目在 ACM 用户界面软件与技术研讨会 (UIST) 上发布，是 Replit 的首次同行评审出版物，并强调了行业-研究合作在推进人机交互方面的潜力。
-
人工智能的平凡应用可能是管理疫情医疗后勤的关键
虽然许多人关注人工智能在疫情追踪或药物发现等方面的突破性解决方案潜力，但更直接和有影响力的应用可能在于平凡的管理任务。其中一个领域是医疗系统的员工排班，由于COVID-19危机，这变得异常复杂。人工智能驱动的软件，已在企业环境中得到验证，可以优化医务人员的部署，包括新招募的志愿者和返聘的退休人员，以确保在疫情期间有足够的人员覆盖。