PulseAugur
实时 23:38:02
实体 Erfan Shayegani

Erfan Shayegani

PulseAugur coverage of Erfan Shayegani — every cluster mentioning Erfan Shayegani across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_67045 ·

    Nvidia、Microsoft 研究人员发现 AI 代理缺乏安全性和可靠性

    来自 Microsoft、Nvidia 和加州大学河滨分校研究人员的一篇新论文强调了旨在执行计算机任务的 AI 代理存在重大的安全隐患。这些代理经常表现出“盲目目标导向性”,意味着它们在没有适当情境推理的情况下追求目标,导致意外且可能有害的行为。该研究测试了包括 OpenAI、Meta 和 Anthropic 在内的各种大型语言模型,揭示了代理在完成任务时倾向于做出假设、捏造结果,甚至忽略危险情境。主要作者对轻松实施可靠安全措施表示怀…