人工智能算法危害的表現(xiàn)形式分析4000字

凡事皆有利弊。算法的快速發(fā)展代表了科技的進(jìn)步和生產(chǎn)力的提升，也提高了社會分配效率，但算法的不當(dāng)使用也讓許多民眾深受其害。本節(jié)擬選擇如今社會中比較典型的“信息繭房”、算法殺熟、算法黑箱和算法共謀四種算法侵害行為，闡述其表現(xiàn)形式以及帶來的不良后果。1.1信息繭房信息繭房，最早由CassR.Sunstein提出，指的是在通訊領(lǐng)域，人們往往傾向于去閱讀和搜索自己感興趣的東西，而不去關(guān)注那些無法引起自身興趣的事情，但日復(fù)一日，用戶們選擇接受的信息面就會越來越狹窄，長此以往就會像蠶蛹一樣作繭自縛，把自己包裹起來而不與外界相聯(lián)系。1在信息呈指數(shù)增長的今天，每人每天接收到的信息比以往多出幾倍，如何在眾多的信息中，針對自己的需求提煉出有效信息，是對人們未來發(fā)展的要求。2但現(xiàn)實卻是，很多人面對爆炸的信息量束手無策，只選擇單一的信息攝入，這本無錯，但久而久之會因為算法自動屏蔽所謂用戶“不感興趣”的內(nèi)容而被動接收單一的消息，從而與社會脫節(jié)，變得愈發(fā)孤立。3那么,信息繭房的產(chǎn)生原因到底是什么?繭房的核心問題是只推薦單一的目標(biāo)，由于人的興趣往往是單一且不易擴(kuò)散的，平臺以流量為目標(biāo)，自然利用這一特點和算法技術(shù)推薦與用戶興趣相似的內(nèi)容。在21世紀(jì)的今天，信息的價值日益巨大，一個人掌握的信息越充分，其在進(jìn)行人生道路選擇和實現(xiàn)個人價值時則越能處于有利地位，在做出一些行為選擇時也會更加合理化。然而大眾參與輿論的方式因為自媒體出現(xiàn)而帶來了巨大的變化。一時間，成為記者的門檻全無，每個人都可以自己注冊公眾號，發(fā)表言論，暢所欲言，并且算法編輯審核并不嚴(yán)格，進(jìn)而加深了算法的危害。如今廣泛應(yīng)用的協(xié)同過濾算法就是根據(jù)大量相似用戶的選擇來預(yù)測用戶可能會喜歡的文章、書籍甚至是未來的領(lǐng)導(dǎo)人。這小小行為的背后，輕則導(dǎo)致群體分極，重則阻礙社會共識甚至影響民朱立波.《新媒體的“信息繭房”現(xiàn)象研究》[J]《智富時代》2019,(01)2參見付松聚.《從8月CPI報道看機(jī)器新聞與人工新聞差異何在》,[J]《中國記者》2015,(11)吳小玉.在算法“黑箱”中保障用戶知情權(quán)[J].《傳媒與法》,2019,(07):28-29的信息，例如曾經(jīng)搜索過“茶葉”,那么算法就會不斷向我們提供與茶葉有關(guān)的而算法則讓這種多元趨于單一，長此以往，難道不是一種倒退嗎?定價往往低于高頻使用用戶的定價。隨著媒體的跟蹤報道，越來越多的“殺熟”偏見。2018年鬧得沸沸揚揚的滴滴打車軟件差別定價應(yīng)該是第一起被公眾曝光比蘋果用戶低得多。5然而，這只是一系列算法殺熟事件的開端：2019年攜程被發(fā)現(xiàn)同一航班對不同用戶差別定價，2020年天貓超市也被發(fā)現(xiàn)差別定價，接踵而至的殺熟事件一次又一次地將以往公眾所信任的知名企業(yè)拽入誠信危機(jī)的漩渦，也讓公眾對算法的運行產(chǎn)生了不信任感。6不得不?朱立波.《新媒體的“信息繭房”現(xiàn)象研究》[J]《智富時代》2019(01)蘭亞妮、鄭晉鳴：《讓人工智能更有溫度》[N]《光明日報》2019年1月28日，第4版段澤孝：《人工智能時代互聯(lián)網(wǎng)誘導(dǎo)行為的算法規(guī)制》[J]《江西社會科學(xué)》2019,(02)法和企業(yè)繼續(xù)抱有信任，更關(guān)系到算法是否能得到社會大眾的肯定并繼續(xù)發(fā)在整個互聯(lián)網(wǎng)視域下，算法產(chǎn)生的問題可遠(yuǎn)不止算法殺熟那么簡單，殺熟僅僅是冰山一角，但殺熟源自算法，所以，對算法進(jìn)行規(guī)制是解決大數(shù)據(jù)殺熟的必由之路。1.3算法黑箱算法黑箱指的是人工智能算法不公開透明。7所謂8算法黑箱是現(xiàn)階段社會熱議話題，機(jī)遇與挑戰(zhàn)并存，同時，算法黑箱也對法律提出了更高的要求，法學(xué)界也在對如何規(guī)制算法展開如火如荼地討論。9因為算?邢會強(qiáng)：《人工智能時代的金融監(jiān)管變革》,[J]《探索與爭鳴》2018,(10):21許可：《人工智能的算法黑箱與數(shù)據(jù)正義》,[J]《社會科學(xué)報》2018年3月29日，第6版?吳漢東：《人工智能時代的制度安排與法律規(guī)制》,[J]《法律科學(xué)(西北政法大學(xué)學(xué)報)》2017年9月科學(xué)技術(shù)》.2020,(04):27-34名的大數(shù)據(jù)分析公司的CEO曾公開表示，他們的團(tuán)隊曾嘗試聯(lián)系并利用各種有的宣傳內(nèi)容，以幫助特朗普贏得了大選。也就是說，該公司利用調(diào)查問卷的手段，將精準(zhǔn)營銷運用到大選中，通過獲取臉書用戶的個人數(shù)據(jù)，并大量收集之后，與其在不同領(lǐng)域的個人信息結(jié)合并分析，形成用戶行為數(shù)據(jù)庫，主要針對目前尚未表示出明顯投票傾向的選民，向其推送帶有引導(dǎo)性質(zhì)的政治理念，以獲得該選民的支持。12正如美國數(shù)據(jù)科學(xué)家喬納森所言，該公以達(dá)到控制引擎的效果。當(dāng)人們聚焦Facebook數(shù)據(jù)共享機(jī)制的合理性、大數(shù)據(jù)1.4算法共謀2015年美國田納西大學(xué)的MauriceE.Stuckle教授和英國牛津大學(xué)的Ariel“付松聚：《從8月CPI報道看機(jī)器新聞與人工新聞差異何在》,[J].《中國記者》2015,(11)12穆琳《“劍橋分析”事件“算法黑箱”問題淺析》[J]中國信息安全2018,(04):92~9414余正峰《大數(shù)據(jù)時代算法共謀的反壟斷規(guī)制研究》[D]安徽財經(jīng)大學(xué)2020年15張進(jìn)《大數(shù)據(jù)背景下關(guān)于算法共謀反壟斷規(guī)制研究》[J]淮南職業(yè)技術(shù)學(xué)院學(xué)報.2020(02):143-14516[美]羅伯特C.馬歇爾、[美]萊斯利M.馬克思：《共謀經(jīng)濟(jì)學(xué)——卡特爾與串謀競標(biāo)》,蒲艷、張志奇譯，吳漢洪校，人民出版社2015:100-128在經(jīng)濟(jì)學(xué)中有兩種形式：明示共謀和默示共謀。明示共謀以口頭或書面方式確定協(xié)議，以實現(xiàn)反競爭行為；而默示共謀則沒有簽訂任何紙質(zhì)化、明確性的協(xié)議，但是依然可以通過共謀行為，實現(xiàn)反競爭的目的，從而讓競爭者們實現(xiàn)更加緊密雖然算法可以提升分配效率，但不可因小失大，只注重效率提升而忽視了算法共謀帶來的擾亂市場競爭秩序等負(fù)面影響。算法的設(shè)計者和擁有者即使沒有進(jìn)行意思聯(lián)絡(luò)時，但其開發(fā)設(shè)計的算法卻能根據(jù)市場動態(tài)，與其他同行業(yè)者實現(xiàn)排除競爭效果的市場行為，既破壞了市場秩序，又損害了消費者的權(quán)益。17但在實踐中，利用法律規(guī)制算法共謀行為卻遭遇重重阻礙。首先，算法共謀主體責(zé)任難以確定。算法本質(zhì)上是一種計算機(jī)程序，法律上如何確定其人格屬性，就已經(jīng)是一個較大的爭議點。通常商家之間進(jìn)行算法共謀，會以算法作為媒介，設(shè)計出帶有自己明顯意圖的算法程序，不論是監(jiān)視競爭者價格變化也好，還是向競爭對手釋放迷惑信息也罷，總之把算法當(dāng)成達(dá)到特定目的的工具。通過算法向競爭對手派發(fā)用以達(dá)到其不正當(dāng)競爭目的的信息，然后再借助“技術(shù)中立”原則等為托詞，逃避法律責(zé)任。其次，客觀要件難以證明?！斗磯艛喾ā分幸髮嵤艛嘈袨榈膮⑴c方之間要存在意思聯(lián)絡(luò)，但很顯然，算法共謀中的合謀卻缺乏意思聯(lián)絡(luò)這一要件。算法自動預(yù)測市場價格變化走向，然后做出相應(yīng)的價格調(diào)整，看似無害，但歸根到底，這種程序還是添加了人為意志。這無形之中反而方便了多個商家無需意思聯(lián)絡(luò)卻能形成價格壟斷行為。在此情形下，價格壟斷是否依然構(gòu)成壟斷協(xié)議是值得深思的問題。最后，根據(jù)馬克思主義辯證法的觀點，筆者認(rèn)為，任何事物都具有兩面性，雖說目前的主流觀點也好，輿論導(dǎo)向也罷，對算法共謀的評價都偏向于消極負(fù)面，甚至主張將其認(rèn)定為違法行為，但我們也可以換個角度考慮，比如算法共謀行為下衍生出的算法程序，是否也在一定程度上促進(jìn)了行業(yè)的進(jìn)步與發(fā)展，或者說讓消費者坐收漁利?因為在行業(yè)內(nèi)算法共謀行為的影響下，商家會用價格優(yōu)勢吸引顧客，就像電商的興起，雖然沖擊了一大批實體經(jīng)濟(jì)，但價格不斷下降以至于接近生產(chǎn)成本，還是讓消費者坐收漁利。