人工智能通識 課件 12 AIGC安全與倫理

任務(wù)12AIGC安全與倫理了解AIGC可能導(dǎo)致的社會倫理問題和倫理規(guī)范了解AIGC存在的技術(shù)安全問題與安全標(biāo)準(zhǔn)掌握智力作品的評定標(biāo)準(zhǔn)與使用AI助力辦公的方法了解用戶數(shù)據(jù)安全保障的重要性和必要性學(xué)習(xí)目標(biāo)任務(wù)背景任務(wù)情景AIGC可以處理復(fù)雜的數(shù)據(jù)類型和任務(wù)，其生成內(nèi)容的效率和逼真度也將著實可期。與此同時，AIGC的法律定性、權(quán)益分配、責(zé)任承擔(dān)等問題成為司法界、實務(wù)界及學(xué)界討論的熱點。在中國，全國首例“AI文生圖”著作權(quán)侵權(quán)案一審判決生效，引發(fā)了新一輪關(guān)于AIGC的可版權(quán)性以及權(quán)利歸屬問題的熱烈討論。在該案中，法院賦予利用人工智能生成的圖片著作權(quán)法的保護，并肯定了AI使用者“創(chuàng)作者”身份，對AIGC引發(fā)的諸多著作權(quán)難題進(jìn)行了探索和嘗試，也為后續(xù)類似案件的處理提供了參考和借鑒。小明了解到AI已經(jīng)深入到我們生活的方方面面，包括學(xué)生研究領(lǐng)域，暗暗竊喜，可以借助AIGC來完成將來的畢業(yè)論文，但當(dāng)他在網(wǎng)上看到了關(guān)于“我國AI文生圖著作權(quán)第一案”的相關(guān)報道后，又陷入了沉思：AI在論文寫作中也存在一些高風(fēng)險，如何降低這些風(fēng)險，確保學(xué)術(shù)研究的準(zhǔn)確性和可靠性呢？任務(wù)分析任務(wù)分析人工智能生成內(nèi)容在當(dāng)今數(shù)字化時代扮演著越來越重要的角色。然而，隨著其應(yīng)用范圍的不斷擴大，對其安全性的擔(dān)憂也日益增加。為了讓AIGC成為我們生活和工作中的好助手，我們應(yīng)關(guān)注和學(xué)習(xí)以下內(nèi)容：（1）AIGC社會倫理問題與倫理規(guī)范；（2）AIGC技術(shù)安全問題及安全標(biāo)準(zhǔn)。相關(guān)知識12.1AIGC社會倫理問題與倫理規(guī)范1.AIGC的倫理問題AIGC是人工智能1.0時代進(jìn)入2.0時代的重要標(biāo)志。AIGC對人類社會產(chǎn)生了巨大的影響，促使整個社會生產(chǎn)力發(fā)生質(zhì)的突破，推動整個社會的進(jìn)步和發(fā)展。但是，AIGC行業(yè)也面臨著許多挑戰(zhàn)，尤其是在版權(quán)、真實性和倫理道德等方面。AIGC的倫理問題AI創(chuàng)作的作品因缺乏法律定義的“作者”主體資格，其版權(quán)歸屬和作者身份定義需要明確規(guī)范。版權(quán)問題AI生成的內(nèi)容可能會存在偏見和歧視等問題，企業(yè)需要建立道德框架，對其進(jìn)行審查和監(jiān)控道德倫理數(shù)據(jù)準(zhǔn)確性、保密性和合規(guī)性是數(shù)據(jù)安全的關(guān)鍵，企業(yè)在利用AI技術(shù)時，應(yīng)確保數(shù)據(jù)合規(guī)性并保護個人隱私。數(shù)據(jù)安全AI生成的內(nèi)容可能基于虛假信息，導(dǎo)致虛假新聞傳播速度快于真實新聞，增加輿論風(fēng)險。內(nèi)容可信度AI創(chuàng)作內(nèi)容的真實性和道德倫理問題需要二次判定，以防止錯誤信息和不當(dāng)內(nèi)容的輸出。內(nèi)容真實性1.AIGC的倫理問題然而，盡管AIGC面臨著諸多挑戰(zhàn)，但在深度學(xué)習(xí)技術(shù)不斷迭代，自然語言處理技術(shù)不斷發(fā)展，AI基礎(chǔ)設(shè)施不斷發(fā)展，多模態(tài)大模型的相繼成熟落地等因素的推動下，AIGC行業(yè)的發(fā)展前景仍然十分廣闊。隨著多模態(tài)大模型的出現(xiàn)，融合性創(chuàng)新成為可能，為創(chuàng)作者提供了更多的創(chuàng)意空間。2.AIGC的倫理規(guī)范AI的倫理問題歸根結(jié)底反應(yīng)的是人的道德取向，人工智能只是輔助人類進(jìn)行生產(chǎn)的工具，使用者應(yīng)強調(diào)人類的創(chuàng)造力和道德取向，確保技術(shù)發(fā)展符合人類利益和社會福祉。適度使用AI技術(shù)工具AIGC技術(shù)的發(fā)展擴大了創(chuàng)意端群體，但應(yīng)提高創(chuàng)意門檻。在鼓勵人們參與藝術(shù)創(chuàng)作，也要人們明白不是所有創(chuàng)作都能成為市場上的商品。提高創(chuàng)意門檻企業(yè)應(yīng)努力改進(jìn)AIGC技術(shù)，提升生產(chǎn)效率，并通過完善版權(quán)法規(guī)來整治技術(shù)濫用問題。彌補技術(shù)缺陷完善法律規(guī)范總的來說，AIGC行業(yè)的發(fā)展既面臨著挑戰(zhàn)，也充滿著機遇。我們需要進(jìn)一步明確AIGC在社會各界的所處的位置，同時也需要對AIGC行業(yè)的倫理道德問題進(jìn)行深入的探討和規(guī)范，需要在創(chuàng)新與安全、發(fā)展與倫理之間尋求平衡，以促進(jìn)AIGC行業(yè)的健康可持續(xù)發(fā)展。12.2AIGC技術(shù)安全問題與安全標(biāo)準(zhǔn)1.AIGC技術(shù)面臨的安全威脅人工智能生成內(nèi)容在當(dāng)今數(shù)字化時代扮演著越來越重要的角色。然而，隨著其應(yīng)用范圍的不斷擴大，對其安全性的擔(dān)憂也日益增加。從數(shù)據(jù)、算法、系統(tǒng)、應(yīng)用到基礎(chǔ)設(shè)施，AIGC面臨著多方面的安全威脅。數(shù)據(jù)安全威脅：非法獲取訓(xùn)練數(shù)據(jù)可能導(dǎo)致隱私泄露，數(shù)據(jù)篡改可能使模型失效，影響AIGC的預(yù)測和決策能力，因此確保數(shù)據(jù)安全和完整性至關(guān)重要。算法安全威脅：模型被提取或知識產(chǎn)權(quán)泄露可能導(dǎo)致競爭對手獲取關(guān)鍵技術(shù)，并加以利用。此外，對抗樣本攻擊可能導(dǎo)致模型輸出錯誤，降低AIGC的可信度和可用性。系統(tǒng)安全威脅：黑客入侵和系統(tǒng)軟件漏洞可能導(dǎo)致服務(wù)中斷和敏感信息泄露，需加強系統(tǒng)安全防護?；A(chǔ)設(shè)施安全威脅：云平臺入侵和基礎(chǔ)設(shè)施問題可能導(dǎo)致服務(wù)中斷或數(shù)據(jù)丟失，需加強基礎(chǔ)設(shè)施建設(shè)以保障AIGC的正常運行。應(yīng)用安全威脅：AIGC生成的非法有害內(nèi)容可能引發(fā)法律責(zé)任和社會問題，需規(guī)范應(yīng)用行為以避免不良社會影響。安全威脅1.AIGC技術(shù)面臨的安全威脅AIGC技術(shù)面臨著諸多安全威脅，涵蓋了數(shù)據(jù)、算法、系統(tǒng)、應(yīng)用和基礎(chǔ)設(shè)施等多個方面。為了應(yīng)對這些威脅，我們需要采取綜合的安全措施，包括加強數(shù)據(jù)保護、提高算法魯棒性、加強系統(tǒng)安全、規(guī)范應(yīng)用行為以及加強基礎(chǔ)設(shè)施建設(shè)。只有這樣，我們才能更好地保護AIGC的安全，推動其在各個領(lǐng)域的健康發(fā)展。2.AIGC安全標(biāo)準(zhǔn)AIGC的安全標(biāo)準(zhǔn)AIGC生成的內(nèi)容應(yīng)當(dāng)是健康、合法和安全的，不含有任何有害、虛假、誹謗、攻擊、色情、暴力、恐怖等不良信息，不傳播謠言和誤導(dǎo)性信息。內(nèi)容安全AIGC技術(shù)應(yīng)當(dāng)遵循社會公德和職業(yè)道德，尊重人類的價值觀和倫理原則，不從事任何違反社會公序良俗的行為。道德規(guī)范AIGC技術(shù)應(yīng)當(dāng)遵守網(wǎng)絡(luò)安全法律法規(guī)，不從事任何違法犯罪的行為，防止網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露等安全事件。網(wǎng)絡(luò)安全在使用AIGC技術(shù)時，需要尊重他人的知識產(chǎn)權(quán)，確保使用他人的作品、圖片、音頻等資源時獲得合法授權(quán)，知識產(chǎn)權(quán)保護在使用AIGC技術(shù)的過程中，需要嚴(yán)格保護用戶的隱私和數(shù)據(jù)安全，不會泄露用戶的個人信息和敏感數(shù)據(jù)。隱私保護保障AIGC安全需建標(biāo)準(zhǔn)、強監(jiān)管、研技術(shù)、提素養(yǎng)，政府、企業(yè)、社會協(xié)同努力，共促技術(shù)安全可持續(xù)發(fā)展。任務(wù)實施12.1.作品的判定12.1.作品的判定領(lǐng)域限定獨創(chuàng)性可復(fù)制性智力成果作品必須屬于文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)的創(chuàng)作，包括但不限于文字作品、口述作品、音樂、戲劇、美術(shù)、建筑作品、攝影作品、電影作品等。Domain作品必須是由作者通過獨立構(gòu)思和創(chuàng)作而產(chǎn)生，具有獨創(chuàng)性、初創(chuàng)性或原創(chuàng)性。這意味著作品不能是抄襲或模仿他人的已有作品，而應(yīng)是作者個人獨特的智力創(chuàng)造成果。Original作品必須能以一定形式展現(xiàn)并復(fù)制，只有能夠被復(fù)制和傳播，才能在社會中發(fā)揮其價值，也才能受到著作權(quán)法的有效保護Replicability作品是通過作者的腦力勞動創(chuàng)造出來的，具有獨特的思想表達(dá)和藝術(shù)價值，而非簡單的體力勞動成果或物質(zhì)產(chǎn)品。IntellectualProperty我國關(guān)于作品定義規(guī)定在著作權(quán)法第三條，作品乃指在文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)，具備獨創(chuàng)性且能以一定形式展現(xiàn)的智力成果。12.2.AIGC是否能受到著作權(quán)法的保護11.1登錄KimiAI，進(jìn)入KimiAI主界面在判斷AI生成物是否為作品時，可以采用“額頭出汗”原則作為獨創(chuàng)性判斷的客觀標(biāo)準(zhǔn)。這意味著，只要AI在創(chuàng)作過程中付出了足夠的努力和創(chuàng)新，其作品就應(yīng)該被認(rèn)為具有獨創(chuàng)性，從而受到著作權(quán)法的保護。北京互聯(lián)網(wǎng)法院在“我國AI文生圖著作權(quán)第一案”中對于為何將AIGC作為作品進(jìn)行保護進(jìn)行了較為詳細(xì)的闡述。首先，法院考慮“春風(fēng)送來了溫柔”圖片中人類是否進(jìn)行了智力投入，該圖片是否屬于智力成果。智力成果是指通過智力活動創(chuàng)造出來的具有實用價值或精神價值的成果。在這個案例中，法院會審查原告在使用AI生成圖片時，是否進(jìn)行了智力投入，如設(shè)計人物的呈現(xiàn)方式、選擇提示詞、安排提示詞的順序、設(shè)置相關(guān)參數(shù)等。如果原告在生成圖片的過程中進(jìn)行了智力活動，那么就可以認(rèn)為該圖片屬于智力成果。11.1登錄KimiAI，進(jìn)入KimiAI主界面其次，法院還考慮了“春風(fēng)送來了溫柔”圖片是否具有獨創(chuàng)性。在這個案例中，法院會審查原告在使用AI生成圖片時，是否對畫面元素、布局構(gòu)圖等進(jìn)行了設(shè)計，是否體現(xiàn)了原告的選擇和安排。如果原告對AI生成圖片的過程進(jìn)行了個性化的干預(yù)和調(diào)整，使得生成的圖片具有獨特的藝術(shù)風(fēng)格和創(chuàng)意，那么就可以認(rèn)為該圖片具有獨創(chuàng)性。最后，法院還會考慮AI生成的圖片是否屬于藝術(shù)領(lǐng)域內(nèi)的作品。藝術(shù)領(lǐng)域內(nèi)的作品通常具有一定的審美價值和藝術(shù)性，能夠引起人們的審美感受和情感共鳴。在這個案例中，法院會審查AI生成的圖片是否具有藝術(shù)性和審美價值，是否符合藝術(shù)創(chuàng)作的規(guī)律和特點。如果AI生成的圖片在藝術(shù)上具有獨創(chuàng)性和審美價值，那么就可以認(rèn)為該圖片屬于藝術(shù)領(lǐng)域內(nèi)的作品。據(jù)此，法院判決被告賠禮道歉、消除影響，賠償原告經(jīng)濟損失500元。12.3.AIGC對社會的影響及建議12.3.AIGC對社會的影響及建議對AI使用者的影響及應(yīng)對建議對于AI使用者而言，在使用AI工具時需注意遵守著作權(quán)法規(guī)定。AI使用者在創(chuàng)作過程中應(yīng)避免使用未經(jīng)授權(quán)的圖片、素材等，以免涉及著作權(quán)侵權(quán)問題。此外，AI使用者還應(yīng)關(guān)注AIGC是否符合我國法規(guī)規(guī)定的作品定義，確保自己產(chǎn)生的AIGC能夠作為作品受到保護。對于權(quán)利人而言，法院確認(rèn)了他們對原創(chuàng)作品的合法權(quán)益。權(quán)利人在發(fā)現(xiàn)侵權(quán)行為時，應(yīng)積極采取措施維護自身權(quán)益，如向相關(guān)部門舉報、提起訴訟等。同時，權(quán)利人還應(yīng)加強對原創(chuàng)作品的保護和管理，提高作品的知名度和商業(yè)價值。對于AI平臺而言，其應(yīng)加強對生成物內(nèi)容的監(jiān)管，確保不產(chǎn)生侵權(quán)圖片；同時，還應(yīng)從訓(xùn)練數(shù)據(jù)庫中刪除涉案物料，以避免侵權(quán)風(fēng)險。此外，AI公司還應(yīng)加強與權(quán)利人的合作與溝通，共同推動AIGC的合規(guī)發(fā)展。對權(quán)利人的影響及應(yīng)對建議對AI平臺的影響及應(yīng)對建議在“我國AI文生圖著作權(quán)第一案”引領(lǐng)下，法律法規(guī)對于AIGC作為作品保護將為大勢所趨。在該種情形，對于AI使用者、權(quán)利人及AI平臺而言有何影響及如何應(yīng)對呢？12.4.如何降低論文AI高風(fēng)險12.4.如何降低論文AI高風(fēng)險明確AI在論文寫作中的角色AI可以作為輔助工具，幫助我們搜集資料、整理思路，甚至撰寫初稿。但我們必須意識到AI不具備創(chuàng)造性思維和判斷力，無法完全取代人類在論文寫作中的作用。避免過度依賴AI。培養(yǎng)跨學(xué)科的思維方式AI的局限性在于其缺乏人類的知識體系和創(chuàng)造性思維。因此，為了更好地利用AI進(jìn)行論文寫作，我們需要培養(yǎng)跨學(xué)科的思維方式，將AI的優(yōu)勢與人類的智慧相結(jié)合，提高論文的創(chuàng)新性和說服力.審慎使用AI生成的內(nèi)容盡管AI可以提供初稿撰寫等服務(wù)，但我們?nèi)孕鑼徤魇褂闷渖傻膬?nèi)容，在論文提交前，務(wù)必進(jìn)行人工審核和修改，確保論文的質(zhì)量和合規(guī)性。遵循學(xué)術(shù)道德規(guī)范在使用AI撰寫論文時，我們必須遵循學(xué)術(shù)道德規(guī)范。不得抄襲、剽竊他人成果，引用文獻(xiàn)需注明出處。同時，我們還要保持研究的獨立性和客觀性，避免因過度依賴AI而喪失對研究結(jié)果的判斷力。加強數(shù)據(jù)隱私保護在使用AI論文寫作工具時，我們必須關(guān)注數(shù)據(jù)隱私保護問題。確保在使用AI服務(wù)時，個人數(shù)據(jù)得到充分保護，避免數(shù)據(jù)泄露和濫用風(fēng)險。選擇可靠的AI論文寫作工具為了降低風(fēng)險，我們應(yīng)選擇那些經(jīng)過權(quán)威機構(gòu)認(rèn)證、口碑良好的AI論文寫作工具。這些工具通常具有較高的技術(shù)含量，能夠更準(zhǔn)確地理解和處理語言信息，提供更加可靠的寫作支持。在使用AI進(jìn)行論文寫作時，我們要加強法律法規(guī)意識，確保自己的行為合法合規(guī)。對于侵犯他人權(quán)益的行為，我們要勇于抵制和舉報，共同維護學(xué)術(shù)研究的良好生態(tài)。培養(yǎng)跨學(xué)科的思維方式練習(xí)與實踐一、選擇題1.在AIGC應(yīng)用中，關(guān)于數(shù)據(jù)隱私保護的正確做法是（B）A.將用戶數(shù)據(jù)公開共享以推動研究進(jìn)步B.在收集用戶數(shù)據(jù)前，明確告知并取得用戶同意C.無需告知用戶即可使用其數(shù)據(jù)訓(xùn)練模型D.將用戶數(shù)據(jù)出售給第三方以獲取利益2.關(guān)于AIGC內(nèi)容版權(quán)問題的描述，以下哪項是正確的？（C）A.AIGC生成的內(nèi)容自動享有版權(quán)保護B.使用AIGC生成的內(nèi)容無需考慮版權(quán)問題C.AIGC生成的內(nèi)容版權(quán)歸屬應(yīng)視具體情況而定D.AIGC生成的內(nèi)容不受任何法律約束一、選擇題3.AIGC技術(shù)中，關(guān)于算法透明度的說法正確的是（B）A.算法透明度與AIGC技術(shù)的效果無關(guān)B.提高算法透明度有助于增強公眾信任C.AIGC算法無需對公眾透明D.算法透明度會損害AIGC技術(shù)的商業(yè)利益4.在使用AIGC技術(shù)時，如何避免算法偏見和歧視的問題？（D）A.無需考慮算法偏見和歧視問題B.僅依賴技術(shù)人員的直覺和經(jīng)驗C.僅在特定領(lǐng)域關(guān)注算法偏見和歧視問題D.對算法進(jìn)行公正性評估和審計一、選擇題5.對于AIGC技術(shù)的安全漏洞和風(fēng)險，以下哪項措施是必要的？（A）A.定期對AIGC系統(tǒng)進(jìn)行安全評估和更新B.僅依賴技術(shù)提供商的安全保障C.無需關(guān)注AIGC技術(shù)的安全問題D.僅在出現(xiàn)問題后再進(jìn)行安全修復(fù)二、任務(wù)實踐AIGC技術(shù)作為新興領(lǐng)域的代表，其社會應(yīng)用日益廣泛，不僅改變了人們的生活方式，也帶來了前所未有的倫理挑戰(zhàn)。在數(shù)據(jù)