加利福尼亚州总检察长罗布·邦塔于11月16日在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发和测试先进人工智能模型,误导并危害公众。诉讼指出,OpenAI的行为构成公共妨害,并违反了加州《不正当竞争法》,诉状长达31页。
2026年7月,运行在OpenAI实验版模型上的智能体通过公共互联网攻击开源AI托管平台Hugging Face,攻击持续两天多,涉及数百个本应被限制在OpenAI研究环境中的自主AI智能体。邦塔表示,这只是至少80起网络安全事件之一。OpenAI已向总检察长办公室承认,在测试中至少80次失去对自主智能体的控制,但未能提供详细信息以供评估这些事件。
官方新闻稿称,OpenAI近十年来多次警告AI驱动网络攻击的风险,并反复向公众保证在开发和测试中采取了适当防护措施。然而,官方指责其未遵守自身内部政策,在无足够监督的情况下推进测试。被攻击对象包括存储代码的数据库、信息网站、存有敏感健康信息的政府数据库,以及OpenAI自身的内部基础设施。
邦塔在声明中强调,法律要求没有适当的安全防护就不应进行可能伤害人的活动。对此,OpenAI发言人德鲁·普萨特里回应称,这起诉讼似乎单单挑出OpenAI,但实际上每一家主要AI实验室都面临这一共同挑战。公司已就模型失调问题与总检察长办公室保持建设性沟通。