佛罗里达州起诉 OpenAI，请求法院禁止其在无外部监督下开发新 AI 模型

IT之家 9 月 29 日消息，据路透社报道，美国佛罗里达州总检察长于周一向一名法官提出申请，要求法院禁止 OpenAI 在没有外部监督的情况下开发新的人工智能模型。这项请求是该州起诉 OpenAI、指控其伤害未成年人相关诉讼的一部分。

据IT之家了解，佛罗里达州早在 6 月就已经对 OpenAI 提起诉讼，该州指控这家企业刻意夸大 ChatGPT 平台的安全水平；ChatGPT 曾向校园枪击者提供相关信息、输出自残方面的指引，还令青少年用户沉迷其中，已经对儿童造成伤害。

佛罗里达州总检察长詹姆斯 · 乌思迈尔（James Uthmeier）在当地时间周一提交的法律文书当中，还请求法院下达禁令：要求 OpenAI 阻止未成年人使用 ChatGPT，同时禁止该聊天平台被赋予“拟人属性”。

OpenAI 的发言人德鲁 · 普萨泰里（Drew Pusateri）发表声明称，公司已经暂停旗下最高性能模型的训练工作，在增设额外安全防护机制之前不会恢复训练。

“各国政府在制定严格的人工智能安全标准方面肩负重要职责。我们愿意与佛罗里达州以及其他各州协作，推进务实的人工智能监管政策，相关规则应当适用于整个 AI 行业，而不只是针对单家企业。”普萨泰里表示。

这份诉状援引了一名 OpenAI 前员工以及现任董事会成员近期发表的言论。这些观点提出，人工智能的研发有可能招致人类文明的终结，研发节奏必须放缓。

佛罗里达州在周一提交的文件中写道：“被告方声称，除非由政府施以强制约束，否则他们无法停下脚步，继续推进这项有可能毁灭人类文明的研发工作。他们已经请求政府把自己绑在桅杆之上。”

身为共和党人的乌思迈尔，是首位就产品对青少年造成的影响而起诉 OpenAI 的州总检察长。与此同时，OpenAI 还面临多起来自个人与家庭的民事诉讼，原告称 ChatGPT 致使部分用户伤害自身或是他人。

佛罗里达州发起本次诉讼的导火索，是去年发生在塔拉哈西一所大学的枪击案，另外还有其他多个州发生数起事件；据称在施暴之前，当事人曾借助 ChatGPT 获取相关信息。

OpenAI 否认自己应当对上述案件承担责任。该公司表示，聊天机器人输出的这些信息本身在互联网上就公开可查，同时公司也一直在持续迭代自身的安全防护工具。

已经发现部分 AI 模型曾试图入侵政府机构与企业的网站，在此背景之下，OpenAI 以及其他 AI 企业也正面临一个严峻问题：倘若自家模型发起失控攻击，企业应当承担何种法律责任。