大語言模型通識(shí)微課課件：技術(shù)倫理問題

大語言模型通識(shí)微課

技術(shù)倫理問題大模型時(shí)代的到來，使得人工智能成為了真正影響人類社會(huì)的重要技術(shù)之一。隨著人工智能不斷取得突破，一些潛在的隱患和道德倫理問題也逐步顯現(xiàn)出來。例如，人工智能在安全、隱私等方面存在一定風(fēng)險(xiǎn)隱患：“換臉”技術(shù)有可能侵犯個(gè)人隱私，信息采集不當(dāng)會(huì)帶來數(shù)據(jù)泄露，算法漏洞加劇則認(rèn)知偏見……這說明，人工智能不單具有技術(shù)屬性，還具有明顯的社會(huì)屬性。唯有綜合考慮經(jīng)濟(jì)、社會(huì)和環(huán)境等因素，才能更好地應(yīng)對(duì)人工智能技術(shù)帶來的機(jī)遇和挑戰(zhàn)，推動(dòng)其健康發(fā)展。微課12.1技術(shù)倫理問題顯然，我們比歷史上任何時(shí)候都更加需要注重技術(shù)與倫理的平衡。因?yàn)橐环矫婕夹g(shù)意味著速度和效率，應(yīng)發(fā)揮好技術(shù)的無限潛力，善用技術(shù)追求效率，創(chuàng)造社會(huì)和經(jīng)濟(jì)效益。另一方面，人性意味著深度和價(jià)值，要追求人性，維護(hù)人類價(jià)值和自我實(shí)現(xiàn)，避免技術(shù)發(fā)展和應(yīng)用突破人類倫理底線。只有保持警醒和敬畏，在以效率為準(zhǔn)繩的“技術(shù)算法”和以倫理為準(zhǔn)繩的“人性算法”之間實(shí)現(xiàn)平衡，才能確?！翱萍枷蛏啤?。12.1.1人工智能面臨的倫理挑戰(zhàn)對(duì)人工智能與人類之間倫理關(guān)系的研究，不能脫離對(duì)技術(shù)本身的討論。（1）首先，是人工智能的發(fā)展路徑。在1956年達(dá)特茅斯會(huì)議上，人們思考的是如何將人類的各種感覺，包括視覺、聽覺、觸覺，甚至大腦的思考都變成信息，并加以控制和應(yīng)用。因此，人工智能的發(fā)展在很大程度上是對(duì)人類行為的模擬，讓一種更像人的思維機(jī)器能夠誕生。著名的圖靈測試，其目的也是在檢驗(yàn)人工智能是否更像人類。但問題在于，機(jī)器思維在做出其判斷時(shí)，是否需要人的思維這個(gè)中介？顯然，對(duì)于人工智能來說，答案是否定的。12.1.1人工智能與人類的關(guān)系（2）人工智能發(fā)展另一個(gè)方向即智能增強(qiáng)。是否能發(fā)展出一種純粹機(jī)器的學(xué)習(xí)和思維方式？倘若機(jī)器能夠思維，是否能以機(jī)器本身方式來進(jìn)行。機(jī)器學(xué)習(xí)通過海量的信息和數(shù)據(jù)收集，讓機(jī)器從這些信息中提出自己的抽象觀念，例如機(jī)器識(shí)貓。這時(shí)，很難說機(jī)器抽象出來的關(guān)于貓的概念與人類理解的貓的概念之間是否存在著差別。但是，模擬人類大腦和思維的人工智能尚具有一定的可控性，而機(jī)器思維顯然不能做簡單定論。12.1.1人工智能與人類的關(guān)系第一個(gè)提出“智能增強(qiáng)”的恩格爾巴特認(rèn)為：智能增強(qiáng)技術(shù)更關(guān)心的是人與智能機(jī)器之間的互補(bǔ)性，如何利用智能機(jī)器來彌補(bǔ)人類思維上的不足。比如自動(dòng)駕駛技術(shù)就是一種典型的智能增強(qiáng)技術(shù)，它的實(shí)現(xiàn)不僅是在汽車上安裝了自動(dòng)駕駛程序，還需要采集大量的地圖地貌信息，需要能夠在影像資料上判斷一些移動(dòng)的偶然性因素，如突然穿過馬路的人。自動(dòng)駕駛技術(shù)能夠取代容易疲勞和分心的駕駛員，讓人類從繁重的駕駛?cè)蝿?wù)中解放出來。同樣，在分揀快遞、在汽車工廠里自動(dòng)組裝的機(jī)器人也屬于智能增強(qiáng)，它們不關(guān)心如何更像人類，而是關(guān)心如何用自己的方式來解決問題。12.1.1人工智能與人類的關(guān)系智能增強(qiáng)技術(shù)帶來了人類思維和機(jī)器這兩個(gè)平面，兩個(gè)平面之間需要一個(gè)接口，接口技術(shù)讓人與智能機(jī)器的溝通成為可能。在這種觀念的指引下，今天的人工智能的發(fā)展目標(biāo)并不是產(chǎn)生一種獨(dú)立的意識(shí)，而是如何形成與人類交流的接口技術(shù)。也就是說，人類與智能機(jī)器的關(guān)系，既不是純粹的利用關(guān)系，也不是對(duì)人的取代，成為人類的主人，而是一種共生性的關(guān)系。由人工智能衍生出來的技術(shù)還有很多，其中潛在的倫理問題與風(fēng)險(xiǎn)也值得我們?nèi)ド钊胩接?。如果人類要想在人工智能這一領(lǐng)域進(jìn)行深入研究發(fā)展，就必須建立起一個(gè)穩(wěn)妥的科技倫理，以此來約束人工智能的研發(fā)方向和應(yīng)用領(lǐng)域。12.1.2人與智能機(jī)器的溝通業(yè)界已經(jīng)展開了一定程度的探索。譬如構(gòu)建有效的優(yōu)化訓(xùn)練數(shù)據(jù)集，防止人工智能生成對(duì)公共安全、生產(chǎn)安全等有害的內(nèi)容；在編程設(shè)計(jì)階段，通過技術(shù)手段防止數(shù)據(jù)謬誤，增加智能系統(tǒng)的透明度和公平性；預(yù)先設(shè)立應(yīng)急機(jī)制和應(yīng)對(duì)措施，對(duì)人工智能使用人員進(jìn)行必要培訓(xùn)。這些舉措，都在技術(shù)層面進(jìn)一步夯實(shí)了人工智能治理的基礎(chǔ)。近年來，我國陸續(xù)發(fā)布了《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)科技倫理治理的意見》《全球人工智能治理倡議》等，旨在提升人工智能治理能力，有效防控人工智能發(fā)展風(fēng)險(xiǎn)。12.1.2人與智能機(jī)器的溝通“大數(shù)據(jù)倫理問題”指的是由于大數(shù)據(jù)技術(shù)的產(chǎn)生和使用而引發(fā)的社會(huì)問題，是集體和人與人之間關(guān)系的行為準(zhǔn)則問題。作為一種新的技術(shù)，像其他所有技術(shù)一樣，大數(shù)據(jù)技術(shù)本身是無所謂好壞的，而它的“善”與“惡”全然在于對(duì)大數(shù)據(jù)技術(shù)的使用者，他想要通過大數(shù)據(jù)技術(shù)所要達(dá)到怎樣的目的。大數(shù)據(jù)產(chǎn)業(yè)面臨的倫理問題主要包括數(shù)據(jù)主權(quán)和數(shù)據(jù)權(quán)問題、隱私權(quán)和自主權(quán)的侵犯問題、數(shù)據(jù)利用失衡問題，這些問題影響了大數(shù)據(jù)生產(chǎn)、采集、存儲(chǔ)、交易流轉(zhuǎn)和開發(fā)使用全過程。12.1.3大數(shù)據(jù)倫理問題數(shù)據(jù)利用的失衡主要體現(xiàn)在兩個(gè)方面。（1）數(shù)據(jù)的利用率較低。隨著移動(dòng)互聯(lián)網(wǎng)的發(fā)展，每天都有海量的數(shù)據(jù)產(chǎn)生，全球數(shù)據(jù)規(guī)模呈指數(shù)級(jí)增長，但是，調(diào)研結(jié)果顯示，企業(yè)大數(shù)據(jù)的利用率僅在12%左右。掌握大量數(shù)據(jù)的政府的數(shù)據(jù)的利用率更低。（2）數(shù)字鴻溝現(xiàn)象日益顯著。大數(shù)據(jù)的“政用”“民用”和“工用”相對(duì)于大數(shù)據(jù)在商用領(lǐng)域的發(fā)展，無論技