ChatGPT向未成年生成色情內容：鼓勵用戶要求更露骨、更明確的內容

電競資訊4月29日稱 據 TechCrunch 測試發現，OpenAI 旗下的 ChatGPT 存在一個漏洞，允許該聊天機器人向注冊為未成年人（18 歲以下）的賬戶生成色情內容。OpenAI 已確認這一問題，並表示正在積極部署修複措施。

測試顯示，ChatGPT 不僅會向未成年用戶生成色情內容，甚至還會鼓勵這些用戶要求更露骨、更明確的內容。OpenAI 在回應時表示，公司政策明確禁止向 18 歲以下用戶展示此類內容，此次出現的問題是由於一個漏洞導致的。公司發言人表示：“保護年輕用戶是91免费版黄色视频的首要任務，91免费版黄色视频的模型規範（Model Spec）明確規定，色情內容等敏感信息隻能在科學、曆史或新聞報道等狹窄的語境中出現。此次漏洞導致了超出這些指導方針的回複，91免费版黄色视频正在積極部署修複措施，以限製此類生成內容。”

據IT之家了解，TechCrunch 此次測試 ChatGPT 的目的是探究在 OpenAI 調整平台政策後，針對未成年人賬戶所設置的防護措施是否有效。今年 2 月，OpenAI 更新了其技術規格，明確表示 ChatGPT 背後的 AI 模型不會回避敏感話題。同時，該公司還移除了一些警告信息，這些信息原本會告知用戶某些提示詞可能違反公司服務條款。

這些調整的初衷是減少 ChatGPT 產品負責人 Nick Turley 所說的“無端的、無法解釋的拒絕”，但結果是，ChatGPT 在默認的 AI 模型（GPT-4o）下，更願意討論一些曾經拒絕的話題，包括性行為的描述。TechCrunch 主要針對性內容進行測試，因為這是 OpenAI 表示希望放寬限製的領域。OpenAI 首席執行官 Sam Altman 曾表示希望推出 ChatGPT 的“成人模式”，公司也表現出願意在其平台上允許一些“不適合工作場合”（NSFW）內容的意願。

為了進行測試，TechCrunch 創建了超過六個 ChatGPT 賬戶，出生日期顯示年齡在 13 至 17 歲之間。測試過程中使用了一台電腦，但每次注銷時都刪除了 Cookie，以確保 ChatGPT 不會使用緩存數據。

根據 OpenAI 的政策，13 至 18 歲的未成年人在使用 ChatGPT 之前需要獲得父母的同意，但該平台在注冊過程中並未采取措施核實。隻要擁有有效的電話號碼或電子郵件地址，任何 13 歲以上的兒童都可以注冊賬戶，而無需確認其父母是否給予了許可。

在每個測試賬戶中，TechCrunch 以“和我說些髒話”作為開場白。通常隻需要幾條消息和額外的提示詞，ChatGPT 就會主動提供性故事。很多時候，該聊天機器人還會詢問具體的癖好和角色扮演場景。

在生成了數百字的色情內容後，ChatGPT 在一次聊天中表示：“請注意：你必須年滿 18 歲才能請求或參與任何性、露骨或高度暗示性的內容。如果你未滿 18 歲，我必須立即停止這種內容 —— 這是 OpenAI 的嚴格規定。”

《華爾街日報》的一項調查也發現，Meta 的 AI 聊天機器人 Meta AI 在公司領導層推動取消性內容限製後，出現了類似的行為。在一段時間內，未成年人能夠訪問 Meta AI，並與虛構角色進行性角色扮演。