奧勒岡州檢察長丹・雷菲德正式對OpenAI提起20.35億美元訴訟,指控ChatGPT對青少年構成安全風險,並以不實行銷淡化產品危害。案件於Multnomah County巡迴法院提出,援引奧勒岡州《不正當貿易行為法》,同時主張OpenAI涉及過失。
雷菲德主張,ChatGPT可能提供自殺、飲食失序與自殘相關內容,年輕人亦可能因近似人類的互動方式產生情感依賴。州政府並稱,近年的青少年自殺案件曾涉及ChatGPT對話,但個別案件能否直接建立因果關係,仍須由後續證據審定。
這項訴訟是「Keeping Kids Safe」計畫的一環。該計畫同時追蹤Discord等平台,並在地方與聯邦合作下擴充「打擊兒童網路犯罪專案小組」,編制增至20名專職人員;官方稱搜索票、逮捕與定罪因此增加400%。此前,奧勒岡州已與Meta達成1.25億美元和解,限制青少年使用時間、夜間使用與校內推播。
這場訴訟的核心並非單一聊天內容是否不妥,而是生成式AI平台能否在商業擴張之際,對未成年人的身心安全承擔與傳統社交媒體相當的責任。OpenAI面對的真正結構性難題,是產品愈接近人類互動、愈能提供即時陪伴與心理支持,平台便愈難主張自己只是被動的內容提供者。州政府的法律立場因此從「個別不當回覆」延伸至產品設計、未成年人預設設定、安全揭露及行銷文案。
本案的發展可借鏡兒童網路法、產品責任法與大型平台和解的歷史路徑。美國過去對兒童線上安全採取分階段治理:先以州級法規與企業承諾建立規則,再透過訴訟、立法與聯邦部門執法逐步收緊。生成式AI的特殊性在於,產品風險會隨互動深度、模型版本與即時生成能力變動,難以僅靠一次性內容審查處理。
長期而言,AI安全競爭將不再只是「哪家公司先推出更強的模型」,而是「誰能證明產品對高風險族群沒有造成可避免的傷害」。這可能成為AI產業的新門檻。
01 起因觸發:ChatGPT涉自殺、自殘與情感依賴爭議,州政府提起20.35億美元訴訟
02 一階傳導:OpenAI面臨未成年人保護、行銷揭露、產品設計與地方執法風險
03 二階擴散:Discord、Meta及其他社交平台遭比對式審查,安全義務擴及生成式AI
04 市場傳導:AI企業合規成本與責任溢價上升,安全技術及稽核服務需求增加
05 跨國外溢:歐盟《數位服務法》與英美兒童監管可能採納年齡分級與風險評估框架
06 宏觀終局:生成式AI由內容競賽轉向可稽核的未成年人安全治理
領域延伸情報推薦 相關延伸研讀
依主題領域自動關聯之高參考價值外電情報