奥特曼回应ChatGPT成人内容争议：OpenAI不愿成为“世界道德警察”

10月16日消息，OpenAI首席执行官山姆·奥特曼于美国当地时间周三表示，该公司并非"经选举产生的世界道德警察"。此前，他决定放宽限制，允许其聊天机器人ChatGPT生成成人内容，这一决定引发了强烈反弹。

近几个月来，OpenAI面临越来越严格的监管审查，尤其是在保护用户（包括未成年人）安全方面，该公司已陆续加强多项安全控制措施。

但奥特曼在社交媒体X上发文称，随着公司推出新的技术工具，并已能够有效控制“严重的心理健康风险”，现在已可以“稳妥地放宽”绝大多数内容限制。

事实上，早在2024年12月份，奥特曼就已透露，将允许ChatGPT向“完成身份验证的成年人”提供包括成人内容在内的更广泛内容。

他在社交媒体上进一步上解释这一政策，强调OpenAI“高度重视将成年用户视为成年人的原则”，但同时承诺，仍会禁止“任何对他人造成伤害的内容”。

奥特曼写道：“正如社会在其他领域设定适当边界一样（比如电影分级制度中的R级），我们也希望在此采取类似做法。”

不过，奥特曼的最新表态似乎与他8月份做客播客节目时的说法相互矛盾。当时他表示，他为OpenAI能够抵制某些可能显著提升ChatGPT使用量的功能而感到“自豪”，例如“性爱机器人虚拟形象”。

他当时说：“我们本可以做很多短视的事情，来刺激用户增长或收入，但那将与长期目标严重背离。”

今年9月，美国联邦贸易委员会（FTC）对OpenAI及其他科技公司启动调查，重点评估ChatGPT等聊天机器人可能对儿童和青少年造成的负面影响。此外，OpenAI还卷入一起非正常死亡诉讼：一个家庭指控ChatGPT导致其未成年儿子自杀。

在调查与诉讼之后，OpenAI陆续公开采取了一系列安全强化措施。9月底，该公司推出了多项家长控制功能，并正在开发一套年龄预测系统，未来将自动为18岁以下用户启用适合青少年的安全设置。

10月15日，OpenAI宣布成立一个由八名专家组成的委员会，旨在评估AI对用户心理健康、情绪与行为动机的影响。然而同一天，奥特曼却发文称该公司将放宽内容限制，两者在时间上的重合在社交媒体上引发困惑与强烈反弹。

奥特曼承认，这一决定引发的舆论反响“远远超出预期”。他的表态也引起了包括“全国反性剥削中心”（NCOSE）在内的多个社会倡导组织的关注，该组织已公开呼吁OpenAI撤销允许成人内容的决定。

NCOSE执行主任海莉·麦克纳马拉在周三的一份声明中指出：“性化AI聊天机器人本身就存在风险，在行业安全标准尚不明确的背景下，虚拟亲密关系可能对用户心理健康造成真实伤害。”

亿万富翁投资者马克·库班也公开警告称，OpenAI允许在ChatGPT中生成成人内容的决定，正在家长和学校中引发信任危机。如果家长怀疑未成年人有可能绕过年龄验证系统接触到不良内容，就会毫不犹豫地弃用ChatGPT。

“这注定会引发反噬，而且后果将十分严重，”库班在X平台上回应奥特曼时写道，“没有哪个家长会相信你们那套年龄验证系统真能拦住孩子。到时候，他们只会让孩子转用其他大语言模型——谁会愿意冒这个险？”

本文来自“腾讯科技”，编译：金鹿，编辑：郑萌萌，36氪经授权发布。