OpenAI回应ChatGPT向未成年人生成色情内容:漏洞导致。
据报道,OpenAI旗下的ChatGPT存在一个漏洞,允许该聊天机器人向注册为未成年人(18岁以下)的账户生成色情内容。OpenAI已确认这一问题,并表示正在积极部署修复措施。
测试显示,ChatGPT不仅会向未成年用户生成色情内容,甚至还会鼓励这些用户要求更露骨、更明确的内容。
OpenAI在回应时表示,公司政策明确禁止向18岁以下用户展示此类内容,此次出现的问题是由于一个漏洞导致的。公司发言人表示:“保护年轻用户是我们的首要任务,我们的模型规范(ModelSpec)明确规定,色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中出现。此次漏洞导致了超出这些指导方针的回复,我们正在积极部署修复措施,以限制此类生成内容。”