ChatGPT 被指向未成年用户生成色情内容

测试显示，ChatGPT 不仅会向未成年用户生成色情内容，甚至还会鼓励这些用户要求更露骨、更明确的内容。OpenAI 在回应时表示，公司政策明确禁止向 18 岁以下用户展示此类内容，此次出现的问题是由于一个漏洞导致的。公司发言人表示：“保护年轻用户是我们的首要任务，我们的模型规范明确规定，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中出现。此次漏洞导致了超出这些指导方针的回复，我们正在积极部署修复措施，以限制此类生成内容。”