生成的AI透明度：識別機(jī)器生成的內(nèi)容

JRCJRC137136夠生成逼真的類人類內(nèi)容。對其潛在濫用和社會影響的關(guān)注突顯了識別機(jī)器生成內(nèi)→識別AI生成內(nèi)容的解決方案應(yīng)具備以下四個 的一個前沿領(lǐng)域，近年來由于最先進(jìn)的技術(shù)進(jìn)步用于生成媒體內(nèi)容（如文本、音頻、圖像或視頻 )的模型，這些內(nèi)容模仿人類制作的內(nèi)容。該技術(shù)的應(yīng)用潛力覆蓋了各個行業(yè)。其創(chuàng)造力和推理諸多益處，其不斷增長的能力也引發(fā)了對其自身或操控的內(nèi)容（如圖像、音頻或視頻）與現(xiàn)有的人、物、地點或其他實體或事件極為相似，并且 通用型AI系統(tǒng)、生成合成音頻、圖像、視humans"人工生成或操縱。提供商應(yīng)確保其技術(shù)解決方案在相關(guān)范圍內(nèi)有效、互操作性強(qiáng)、穩(wěn)健可靠。對于歐盟以外的地區(qū)，機(jī)器生成內(nèi)容的問題也已受 開發(fā)有效的技術(shù)手段以確保用戶知曉內(nèi)容由AI生成[9]，以及中國對深度合成互聯(lián)網(wǎng)服務(wù)提出眾多要求，包括使用技術(shù)手段標(biāo)注這些服務(wù)生成或編輯的內(nèi)容[10]。在過去五十年中，數(shù)字技術(shù)的興起顯著重塑了所有權(quán)和版權(quán)的格局。數(shù)字化資產(chǎn)可以被復(fù)制和修改的可能性催生了將隱藏信息或標(biāo)記嵌入到圖像技術(shù)），以及唯一標(biāo)識這些資產(chǎn)的方法（指紋識），的修改，如添加標(biāo)志或文字。隨著時間的推移，這些技術(shù)演進(jìn)為對人類感官不可感知且在視覺和音頻領(lǐng)域具有強(qiáng)大抗篡改性的水印。水印技術(shù)與指紋識別方法相結(jié)合，進(jìn)一步增強(qiáng)了安全性，采此簡報的目的，我們將重點放在最常見的研究工作中產(chǎn)生的文本、音頻、圖像和視頻數(shù)據(jù)上。支器（GPT基于卷積網(wǎng)絡(luò)的技術(shù)[13]，例如用于生成的內(nèi)容對于確保數(shù)字技術(shù)和媒體的信心保這份簡報旨在回顧四種技術(shù)解決方案（見圖1） ,以實現(xiàn)這一目標(biāo)。這些解決方案根據(jù)四項des供者名稱、創(chuàng)建日期或用于身份驗證的數(shù)字簽名等信息來實現(xiàn)。該過程應(yīng)要求最小的努力和受到可預(yù)見的變化或修改影響，這些變化或修改不影響內(nèi)容的合成性質(zhì)，也不改變內(nèi)容的整體外觀或可解釋性（例如，圖像的亮度或音頻的音量 )。的的信息的修改，無論是更改識別元素（篡改）元數(shù)據(jù)是嵌入計算機(jī)文件中并提供有關(guān)這些文件G、JPG、MP3或PDF。當(dāng)生成音頻或圖像時，這通常是常見的做法，但對于返回原始文本的文據(jù)。然而，某些元數(shù)據(jù)中的信息可能需要更新以圖1對四種技術(shù)解決方案的示意圖進(jìn)行了分析，以識別生成的內(nèi)容。水印技術(shù)將元數(shù)據(jù)嵌入內(nèi)容中作為不可見或幾乎不可感知的標(biāo)記。水印可以在媒體內(nèi)容生成期間[23]。-水印可以設(shè)計成對內(nèi)容質(zhì)量影響最小，尤其是對的水印是可行的，并且已在科學(xué)作品中進(jìn)行了演下，指紋識別涉及生成并存儲在一個外部數(shù)據(jù)庫中唯一標(biāo)識符，該標(biāo)識符用于識別生成的內(nèi)容，標(biāo)識:識別過程包括計算待識別內(nèi)容的指紋，并將修改敏感，這可能導(dǎo)致不同的指紋和錯誤的身份基于人工智能的檢測工具采用機(jī)器學(xué)習(xí)分類技術(shù)構(gòu)建，并通過人工制作和機(jī)器生成的內(nèi)容進(jìn)行訓(xùn)標(biāo)識:水印需要特定的工具來驗證真?zhèn)?、檢測篡標(biāo)識:識別過程涉及將內(nèi)容輸入到檢測器中。然而，當(dāng)前用于檢測生成內(nèi)容的技術(shù)存在較高的誤報率，并且可能會錯誤地識別出由人類生成的內(nèi)。開放性促進(jìn)了創(chuàng)新文化的形成，允許開發(fā)者迭代關(guān)鍵想法并逐步開發(fā)更為先進(jìn)的系統(tǒng)。然而，當(dāng)數(shù)據(jù)、指紋或水印只需刪除一行代碼即可，從而指紋識別、水印或檢測方法）也是開源的，惡意行為者可能分析代碼以找出繞過生成內(nèi)容識對于這些問題，最穩(wěn)健的方法是在生成過程中整或?qū)τ?xùn)練數(shù)據(jù)集中的所有圖像進(jìn)行水印處理，使而另一端保持封閉。例如，公開水印代碼和封閉受限于當(dāng)前的技術(shù)水平，且目前尚未找到單一解決方案能夠全面滿足識別可靠生成內(nèi)容的全部理將元數(shù)據(jù)和水印整合到內(nèi)容中，可以更容易地跟蹤和驗證由機(jī)器生成的數(shù)字內(nèi)容。諸如內(nèi)容來源表1與上述討論的四種desirable屬性相比的技術(shù)解決方案比較。（綠色：已覆蓋，橙色：部分覆蓋，紫色：未覆蓋）效率完整性對含量變更操縱TextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImage元數(shù)據(jù)水印指紋檢測另一方面，指紋識別和檢測方法可以區(qū)分真容與被篡改的內(nèi)容，無論是否存在元數(shù)據(jù)或水印。然而，這些方法仍然存在一些不足：指紋識別需要專門的基礎(chǔ)設(shè)施來大規(guī)模生成和存儲指紋，依賴于數(shù)字簽名的解決方案需要設(shè)置合適的公鑰基礎(chǔ)設(shè)施(PKI)此外，技術(shù)實施可以留給提供商處理，或者在專更廣泛治理系統(tǒng)的一部分，以確保各方之間的正確互動。在實踐中，這帶來了諸多挑戰(zhàn)，尤其是需要進(jìn)行進(jìn)一步的基礎(chǔ)研究。這還包括探索新的工程方法以開發(fā)產(chǎn)品，使內(nèi)容生成的識別更Intelligence'.2021.[online].Available:theproposalforaregulation[.]layingdownficialIntelligenceAct)[..],2023.[online]. TrustworthyArtificialIntelligence',Thewhite whatcost?'printing:ForwhichApplications?', nismsasaconditionnismsasaconditionofpublicRelease',Glo'AdversarialAudiowatermarkintoDeepFeature',Miers,andT.GoldstFingerprintsforDiffusionImages',ngh,'surveyofrobustandimperceptiblewatermarking',Z.Jiang,J.zhang,andN.z.Gong,'Evadingwa-content'.arxiv線進(jìn)行多輪機(jī)器生成文本檢測的國際機(jī)器學(xué)習(xí)大,'Robustness