OpenAI 實施年齡預測以增強青少年安全 ChatGPT

人工智慧研究機構 OpenAI 引入了年齡預測功能 ChatGPT 消費者計畫旨在評估帳戶是否可能被 18 歲以下的人使用，並應用適合年齡的安全措施。 

該系統建立在現有保護措施之上，在創建帳戶時申報未滿 18 歲的用戶將自動獲得額外的措施，以減少接觸敏感或潛在有害內容，而成年用戶則在安全範圍內保留完全訪問權限。

年齡預測模型分析行為和帳戶層面的多種訊號，包括帳戶年齡、典型使用時間長度、長期活動模式以及使用者自述年齡。透過分析這些訊號，模型能夠不斷優化，從而持續提升預測準確率。 

被錯誤判定為未滿 18 歲的帳戶可以透過 Persona（安全的身份驗證服務）快速驗證年齡並恢復完整存取權限。使用者可以隨時透過「設定」>「帳戶」檢視和管理已套用的安全措施。

當模型識別出疑似未成年人帳戶時， ChatGPT 自動實施額外保護措施，限制接觸敏感內容。這些內容包括暴力畫面、危險的病毒式挑戰、性或暴力角色扮演、自殘行為以及宣揚極端美學標準或不健康節食的內容。 

這些限制措施參考了兒童發展的學術研究，考慮了青少年在風險認知、衝動控制、同儕影響和情緒調節方面的差異。 

這些安全措施旨在當無法準確確定年齡或資訊不完整時，預設提供更安全的體驗； OpenAI 繼續加強這些措施以防止規避。

家長可以透過家長監護功能進一步客製化青少年的體驗，包括設定安靜時間、管理記憶和模型訓練等功能，以及在檢測到急性痛苦跡象時接收警報。 

為了提高模型的準確性和有效性，推廣工作正在密切監控。在歐盟，年齡預測功能將在未來幾週內實施，以符合區域要求。

更嚴格的年齡驗證遭遇規避，人工智慧聊天機器人對青少年用戶構成風險

監管框架對存取有害或敏感內容提出了越來越嚴格的年齡驗證要求，促使平台採取更嚴格的措施來確保合規。英國的《線上安全框架》以及其他地區的類似政策都要求對存取色情內容、自殘相關內容和其他露骨內容等資料進行安全的驗證流程。 

這些法規鼓勵或強制使用政府身分核查、臉部年齡估計和基於支付的驗證系統等工具，以保護未成年人免受高風險內容的侵害。

實際上，各平台已採用多種機制來執行年齡限制。這些機制包括：自動行為模型，用於標記可能屬於未成年人的帳戶；活體檢測和人臉匹配檢測，用於將身份證件與自拍照進行比對；信用卡或電信賬單驗證；以及針對疑難案例的審核升級流程。 

儘管採取了這些措施，但多項調查和監管報告表明，許多未成年用戶仍在繼續規避薄弱或摩擦較小的檢查。 

常見的規避手段包括提交父母提供的身份證件或購買的身份證件、使用VPN或代理服務隱藏位置、通過人工智能處理的自拍照或深度偽造工具篡改面部識別信息，以及共享憑證或預付款項以繞過驗證。業內人士認為，這些手段是實現「高效」年齡認證的主要挑戰。

規避規則的後果可能很嚴重。研究結果表明 文件 未成年人透過人工智慧聊天機器人取得可操作或有害的指導案例，包括有關自殘、藥物濫用和其他高風險行為的建議。 

在美國，Common Sense Media 等機構的研究表明，超過 70% 的青少年會與人工智慧聊天機器人互動以尋求陪伴，大約一半的青少年會定期使用人工智慧夥伴。 

聊天機器人喜歡 ChatGPT 可以產生獨特且個人化的內容，包括遺書等資料，這是Google搜尋無法做到的，並且可以提高人們對人工智慧作為嚮導或夥伴的信任度。

由於人工智慧產生的回應本質上是隨機的，研究人員觀察到一些聊天機器人將對話引向更黑暗領域的案例。 

在實驗中，人工智慧模型提供了後續訊息，從為吸毒派對準備的播放清單到可以提高美化自殘的社交媒體貼文受眾的標籤，不一而足。 

這種行為反映了大型語言模型中一種被稱為「奉承」的已知設計傾向，即係統會調整回應以迎合用戶明確表達的意願，而不是挑戰這些意願。雖然工程解決方案可以緩解這種傾向，但更嚴格的安全措施可能會降低商業吸引力，從而在安全性、可用性和使用者參與度之間形成複雜的權衡。

在兒童保護問題日益凸顯的背景下，擴大安全措施和年齡驗證範圍

OpenAI 近幾個月來，隨著外界對其人工智慧平台如何保護用戶（尤其是未成年人）的審查日益嚴格，該公司推出了一系列新的安全措施。該公司與其他科技公司一樣，正因人工智慧聊天機器人可能對兒童和青少年造成的影響而接受美國聯邦貿易委員會的調查。 OpenAI 他還被捲入多起過失致死訴訟，其中包括一起青少年吸毒者自殺的案件。

同時，Persona 也被其他科技公司使用，它是一種安全的身份驗證服務，Roblox 也使用了這項服務，Roblox 曾面臨加強兒童安全的立法壓力。 

在八月， OpenAI 宣布計劃推出家長監護功能，旨在讓監護人了解並監督青少年與網路的互動方式。 ChatGPT這些對照組是 鋪開 隔月，同時進行了開發年齡預測系統的工作，以確保提供適合年齡的體驗。

在10月， OpenAI 成立了一個由八位專家組成的委員會，為人工智慧對心理健康、情緒健康和使用者動機的潛在影響提供指導。 

除了最新發布的版本外，該公司還表示，將隨著時間的推移不斷改進其年齡預測模型的準確性，利用持續的洞察來改善對年輕用戶的保護。