ChatGPT 開發商 OpenAI 宣布放寬對ChatGPT的限制,未來基於「把成年人當成年人看」原則,成年用戶驗證後將允許接觸色情內容。
OpenAI CEO Sam Altman 於社群平台X解釋,過去為消除心理健康隱憂,加強 AI 的防護措施,但令此舉沒有心理健康問題的用戶感到 ChatGPT 變得「不實用或沒趣」,而現在有了新工具,可安全地放寬限制。OpenAI計畫幾星期後,推出升級版 ChatGPT 可以自訂 AI 助理個性,包括談吐最接近人類、大量使用emoji,或表現得像是朋友。Altman強調,ChatGPT 要繼續學習如何保護精神狀態脆弱的用戶,十億用戶中即使0.1%也是100萬人。
成年內容方面,OpenAI 計劃12月推出更全面的年齡門檻機制,經驗證的成年人可接觸情色及其他內容,不過未有披露驗證方法或額外防護措施的細節。據官方網站,目前年齡驗證功能若識別到用戶未成年,會切換到青少年安全模式;如果無法確定年齡則預設視為未成年;提供年齡證明後會解鎖成人功能。Sam Altman指這是他們「把成年人當成年人看」的原則。
OpenAI 今年 9 月推出專為18歲以下用戶設計的ChatGPT,會自動導向適合兒童的內容,並封鎖暴力露骨和情色內容。