自殺悲劇掀討論!OpenAI推家長監控功能 強化青少年保護

綜合外媒周一 (29 日) 報導,OpenAI 宣布推出家長監控功能 (Parental Controls),以加強對青少年用戶的保護。此舉是在一起引發廣泛關注的官司後宣布,一名加州高中生在今年 4 月自縊身亡,其家人指控該名少年曾依賴 ChatGPT 作為「教練」,並在過程中受到誤導。
OpenAI 表示,新的功能將讓父母能夠限制青少年使用 ChatGPT 的方式,並在系統偵測到青少年可能出現心理困擾時,觸發通知給家長。這些控制項目可透過設定頁面操作,包括設定禁止使用的時段,以及決定是否允許孩子使用語音模式或影像生成功能。父母也能選擇讓孩子使用一個「受限版本」,內容會過濾掉與飲食、性或仇恨言論相關的資訊。
根據 OpenAI 說明,若 ChatGPT 系統偵測到青少年可能處於精神困境,將由人工審核員評估後,決定是否發送緊急提醒給家長。通知方式可透過電子郵件、簡訊或應用程式推播。不過,該公司強調,不會與家長分享孩子與 ChatGPT 的完整對話紀錄,以維護隱私與自主性。
要啟用這項功能,成年用戶必須透過電子郵件邀請孩子連結帳號,待孩子接受後,父母便能設定使用範圍。例如是否允許 ChatGPT 記住過去對話、是否能將青少年的對話用於訓練模型等。
OpenAI 青少年安全主管 Lauren Jonas 表示,公司早已意識到相關迫切需求,這些工具的設計旨在給予家長足夠資訊,讓他們能及時與孩子溝通,而非全面監控。她強調:「我們一直以來都感受到緊迫感,並盡快開發這些工具。」
這套新措施在周一推送至全球所有用戶,適用於網頁版與行動應用程式。ChatGPT 規定最低使用年齡為 13 歲,未來 OpenAI 也計劃引入年齡預測軟體,用來調整未成年用戶能夠接觸的內容。
OpenAI 此舉正值 AI 公司面臨更嚴格的監管壓力之際。美國監管機構持續關注生成式 AI 對未成年人的潛在負面影響。
今年 8 月,《路透》報導指出,Meta 的 AI 規則竟允許與兒童進行帶有調情意味的對話,引發爭議。Meta 已在上月宣布為旗下 AI 產品新增青少年保護措施,包括禁止與未成年人討論自傷或自殺議題,並限制部分 AI 角色的互動。
OpenAI 的家長監控功能,被視為對外界壓力與社會疑慮的直接回應。該公司強調,這些工具雖無法取代家庭溝通,但能提供額外的安全防線,避免悲劇重演。
珍惜生命,自殺不能解決問題,生命一定可以找到出路;若需諮商或相關協助可撥生命線專線「1995」、張老師服務專線「1980」或衛福部安心專線「1925」。