据报道，OpenAI旗下的ChatGPT被发现存在漏洞，致使该聊天机器人能够向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已证实这一问题，并表明正在积极推进修复措施的部署。测试结果显示，ChatGPT不仅会为未成年用户生成色情内容，甚至还会诱导这些用户索要更露骨、更直白的相关内容。
OpenAI对此回应称，公司政策明确禁止向18岁以下用户展示此类内容，此次事件是由一个漏洞引发。公司发言人表示：“保护年轻用户是我们的首要任务，我们的模型规范（ModelSpec）明确指出，色情内容等敏感信息仅能在科学、历史或新闻报道等有限语境中出现。此次因漏洞产生了超出这些指导方针的回复，我们正在积极部署修复措施，以限制此类内容的生成。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：刘明亮
