OpenAI 推出人工智慧影像驗證工具和SynthID浮水印系統

人工智慧研究公司 OpenAI 該公司宣布了一系列旨在提高人工智慧生成圖像透明度並幫助用戶識別數位內容來源的新措施。該公司表示，這些更新是其加強信任和驗證標準的更廣泛努力的一部分，因為人工智慧生成的媒體正日益融入線上交流和創意工作流程中。

在新系統下，透過以下方式建立的映像 OpenAI 工具現在將同時包含 C2PA 內容憑證元資料和 Google DeepMind 的 SynthID 浮水印技術。 OpenAI 此外，還推出了公開驗證工具的預覽版，讓使用者確定上傳的映像是否是使用…產生的。 OpenAI 產品如 ChatGPTCodex 或其 API 服務。

該公司表示，這些變更旨在提高來源訊號的可靠性，這些訊號提供有關媒體如何創建、編輯或分發的背景資訊。 OpenAI在人工智慧生成的媒體日益普及的今天，溯源技術可以幫助記者、線上平台和公眾更好地評估數位內容的真實性和來源。

透過多層驗證系統加強人工智慧內容溯源

OpenAI 該公司解釋說，自2024年以來，他們一直在致力於制定溯源標準。當時，他們首先開始為使用DALL·E 3生成的圖像添加內容憑證，之後又將該功能擴展到其他產品，包括ImageGen和Sora。該公司後來加入了內容溯源與真實性聯盟（C2PA）的指導委員會。 C2PA是一個專注於為數位媒體驗證制定開放技術標準的行業組織。

該公司最近獲得了 C2PA 合規產生器產品認證，該認證旨在確保附加到 AI 生成內容的來源元資料能夠一致地識別、保存和跨平台傳輸。 OpenAI 聲明指出，這一步驟非常重要，因為在上傳、下載、截圖或檔案轉換過程中，如果元資料遺失，來源系統就會變得不那麼有效。

為了克服這些局限性， OpenAI 該公司表示，他們正在採用一種分層方法，將元資料與水印技術結合。透過與GoogleDeepMind的合作，該公司正在將不可見的SynthID浮水印嵌入其服務生成的圖像中。與元資料不同，即使內容被修改、調整大小或透過螢幕截圖保存，水印仍然可以被偵測到。

OpenAI 該公司指出，這兩個系統用途互補。元資料可以提供關於內容的詳細信息，而水印技術則可以在元資料被移除或損壞時提供額外的保護。該公司表示，將這兩種技術結合起來，可以建立一個更強大的框架來識別人工智慧生成的媒體。

新推出的驗證工具旨在幫助使用者偵測上傳圖片中的內容憑證和 SynthID 浮水印。然而， OpenAI 該公司承認沒有任何檢測方法是完全可靠的。該公司表示，該工具將避免造成損失。 defi如果缺少來源訊號，則無法得出認知結論，因為元資料和浮水印有時會從文件中被剝離。

在發布初期，驗證系統僅支援透過以下方式產生的內容： OpenAI 雖然該公司表示計劃在未來幾個月內擴大與更廣泛的行業計劃的兼容性，但目前的產品仍處於這種狀態。 OpenAI 此外，未來的版本可能還會支援除影像以外的其他媒體形式，這是為創建更具互通性的數位溯源生態系統而做出的更廣泛努力的一部分。