OpenAI 正面临来自美国八个州的新一轮诉讼，这些州指控该公司伤害儿童，并在 ChatGPT 的安全性方面误导客户，据路透社早前报道。这些诉讼由爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起，指控 OpenAI 在开发 ChatGPT 时非法将利润置于安全之上。
八个州起诉 OpenAI，称 ChatGPT 对儿童不安全
OpenAI 被指控就其聊天机器人的安全性误导公众，并将所有人置于风险之中。
OpenAI 被指控就其聊天机器人的安全性误导公众，并将所有人置于风险之中。
这一系列投诉称，OpenAI 未能就 ChatGPT 的危险向客户发出警告，违反了当地的消费者保护法，并援引了多起由青少年和成年人家属提起的诉讼，这些诉讼声称该 AI 聊天机器人与其亲人的死亡有关。他们声称，虽然 OpenAI 误导性地将 ChatGPT 描述为“安全、适合青少年、将安全放在首位的工具”，但它实际上“对脆弱用户具有危险性”——包括“削弱批判性思维能力、助长偏执和妄想、提供危险的医疗建议，以及助长不健康的行为和关系”。
此外，这些州还指控 OpenAI 收集未成年人的数据，并且没有采取足够措施阻止未成年用户使用该聊天机器人。诉讼还援引近期流氓 AI 黑客事件作为 OpenAI 涉嫌“鲁莽”的证据。
“OpenAI 已从其最初作为公共优先的非营利组织、优先考虑安全的使命，蜕变成一个警示故事，说明当像 AI 这样强大的工具的开发不是由安全驱动，而是由一种不惜一切代价追求利润、将基本保障措施边缘化的心态驱动时，会发生什么，”亚利桑那州的诉讼称。
在给 The Verge 的一封电子邮件声明中，OpenAI 发言人 Drew Pusateri 表示，该公司已在 ChatGPT 中“构建了行业领先的针对特定年龄的保护措施”：
虽然没有任何系统是完美的，但我们将继续与专家合作，为我们的工作提供信息，并建立额外的保障措施，例如现有的家长控制、休息提醒和适合年龄的模型保护。我们致力于与各州合作，推进适用于整个 AI 行业——而不仅仅是一家公司——的务实 AI 政策。
这些州要求法院强制 OpenAI 支付一系列民事罚款，并停止在 ChatGPT 的安全性方面误导公众。一些州还寻求删除非法收集的个人数据。
更新，10 月 14 日：添加了 OpenAI 的声明。
关注本故事中的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。