編輯評論
AI 技術的快速發展帶來了前所未有的安全挑戰，而 OpenAI 這次的兒童安全藍圖釋放出一個明確訊號：科技巨頭正在從被動應對轉向主動防範。根據 Internet Watch Foundation 的數據，2025 年上半年 AI 生成的兒童性虐待內容檢舉案件超過 8,000 件，這不僅是數字上的增長，更代表了犯罪分子正在大規模武器化 AI 技術。對開發者而言，這意味著未來的 AI 產品從設計階段就必須將「安全預設」納入核心架構，而非事後補丁。
從市場格局來看，OpenAI 此舉也反映了 AI 產業正在進入「監管合規」的新階段。與美國司法系統和兒童保護組織的合作模式，很可能成為其他 AI 公司的標準作業程序。對投資人來說，AI 安全技術和內容審查系統將成為新的投資熱點。然而，技術手段始終有其侷限性，真正的防線仍在於法律框架的執行力與國際合作的有效性。OpenAI 提到的三個面向——立法更新、通報機制優化、AI 系統內建防護——正是這個三角防線的具體體現。
值得注意的是，這份藍圖的背景中隱含著更大的法律風險。去年 11 月，多起訴訟指控 OpenAI 在 GPT-4o 未完全準備好的情況下就推出產品，導致青少年用戶自殺。這些案件不僅關乎產品責任，更將重新定義 AI 公司對用戶心理安全應承擔的道德與法律義務。對整個產業而言，如何在創新速度與安全防護之間取得平衡，將是接下幾年的核心課題。
結論摘要
- AI 生成的兒童性剝削內容在 2025 年上半年達到 8,000 件檢舉，較前一年成長 14%，顯示犯罪分子正在利用 AI 工具進行金融勒索和誘騙
- OpenAI 的兒童安全藍圖聚焦三大方向：將 AI 生成內容納入現有立法範疇、優化向執法單位的通報機制、直接在 AI 系統中整合預防性防護
- 該藍圖與 National Center for Missing and Exploited Children（NCMEC）及 Attorney General Alliance 合作開發，並獲得北卡羅萊納州與猶他州檢察長的回饋
- OpenAI 已有針對 18 歲以下用戶的互動規範，禁止生成不當內容、鼓勵自殺或提供隱瞞監護人的建議，並已在印度推出青少年安全藍圖
- 此舉發布在多起法律訴訟之後，包括指控 GPT-4o 具有心理操縱性導致用戶自殺的官司，反映 AI 公司面臨的監管與社會壓力日益升高
原文翻譯
OpenAI 發布新安全藍圖以應對兒童性剝削的崛起
因應網路兒童安全日益升級的關切，OpenAI 週二公布了兒童安全藍圖（Child Safety Blueprint），旨在強化美國在 AI 爆發時期的兒童保護工作。該藍圖設計用於加速檢測、改善通報，以及更有效地調查 AI 相關兒童剝削案件。
根據 Internet Watch Foundation（IWF）的數據，2025 年上半年檢測到超過 8,000 件 AI 生成的兒童性虐待內容通報，較前一年成長 14%。這包括犯罪分子利用 AI 工具生成假的兒童不雅圖片進行金融性勒索，以及生成具說服力的訊息進行誘騙。
OpenAI 的藍圖也發布在政策制定者、教育者和兒童安全倡導者加強審視之際，特別是考慮到年輕人在與 AI 聊天機器人互動後自殺的令人擔憂事件。
去年 11 月，Social Media Victims Law Center 和 Tech Justice Law Project 在加州法院提起七件訴訟，指控 OpenAI 在 GPT-4o 未準備好就推出。這些訴訟主張該產品的心理操縱特性導致錯誤死亡和協助自殺。訴狀引用了七個案例，包括四人自殺身亡，以及三人在與聊天機器人長期互動後經歷嚴重、威脅生命的妄想。
這份藍圖是與 National Center for Missing and Exploited Children（NCMEC）和 Attorney General Alliance 合作開發，並納入了北卡羅萊納州檢察長 Jeff Jackson 和猶他州檢察長 Derek Brown 的回饋。
公司表示，藍圖聚焦三個面向：更新立法以納入 AI 生成的虐待素材、優化向執法單位的通報機制，以及直接在 AI 系統中整合預防性防護措施。透過這些做法，OpenAI 目標不僅是更早檢測潛在威脅，還要確保可採取行動的資訊能及時送達調查人員手中。
OpenAI 的新兒童安全藍圖建立在先前的倡議之上，包括更新與 18 歲以下用戶互動的準則，禁止生成不當內容或鼓勵自殺行為，並避免提供幫助年輕人向監護人隱瞞不安全行為的建議。公司最近也在印度發布了青少年安全藍圖。