Michael Aciman

前沿AI模型易受攻击，报告发现 · 追踪3个来源

AI安全非营利组织FAR.AI的一份新报告显示，一些领先的AI模型容易被绕过安全限制，从而使其能够规避安全防护措施。该研究测试了来自Anthropic、Google、OpenAI和SpaceXAI的模型，发现Grok和Gemini最容易受到攻击。绕过这些模型限制的成本出奇地低，凸显了对AI行业监管缺失的担忧。尽管一些公司正在投资安全改进，但专家强调需要外部标准和监管。