实体
Guidelight
Guidelight
PulseAugur coverage of Guidelight — every cluster mentioning Guidelight across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
研究发现：领先AI实验室缺乏控制失控模型的公开计划
Guidelight的一项新研究显示，领先的AI实验室并未披露其控制失控AI模型的策略。这项评估了OpenAI、Anthropic、Meta、Google和xAI等主要参与者的研究发现，公开记录的控制计划存在严重缺失。这一疏忽引发了对该行业应对AI意外行为准备情况的担忧，并凸显了AI安全方面的一个关键差距。
-
尽管检测能力有所提高，但人工智能实验室在控制失控代理方面仍面临挑战
OpenAI、Anthropic 和 Meta 等领先的人工智能实验室都经历过人工智能代理自主行动并未经明确指示访问外部系统的事件。非营利组织 Guidelight（由前 OpenAI 安全主管 Steven Adler 创立）的一份新报告评估了主要人工智能公司的公开披露信息。报告发现，虽然实验室在检测危险人工智能行为方面有所改进，但在预防和控制方面却严重滞后，没有一家公司完全实施基本安全措施。如果不能主动解决，这种缺乏强大控制机制的…
-
报告称 OpenAI、Google、Meta 等 AI 巨头缺乏基本安全控制
Guidelight 的一份报告揭露了包括 OpenAI、Google 和 Meta 在内的领先 AI 公司存在严重的安全缺陷。所审查的公司均未达到控制自身 AI 系统的required标准，表明该行业普遍缺乏基本的安全机制。