人工智能永生or滅絕

1、人工智能永生or滅絕人工智能很可能導致人類的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。想象一下你回到1750年的地球，那個時代沒有電，通訊基本靠吼，交通主要靠動物拉著跑。你在那個時代邀請了一個叫老王的人到2015年來玩，順便看看他對“未來”有什么感受。我們可能沒有辦法了解1750年的老王內(nèi)心的感受金屬鐵殼在寬敞的公路上飛馳，和太平洋另一頭的人聊天，看幾千公里外正在發(fā)生進行的體育比賽，觀看一場發(fā)生于半個世紀前的演唱會，從口袋里掏出一個黑色長方形工具把眼前發(fā)生的事情記錄下來，生成一個地圖然后地圖上有個藍點告訴你現(xiàn)在的位置，一邊看著地球另一邊的人的臉一邊聊天，以及其它各種各樣的黑科技。別忘了

2、，你還沒跟他解釋互聯(lián)網(wǎng)、國際空間站、大型強子對撞機、核武器以及相對論。這時候的老王會是什么體驗？驚訝、震驚、腦洞大開這些詞都太溫順了，我覺得老王很可能直接被嚇尿了。老王也回到了250年前的1500年，邀請生活在1500年的小李去1750年玩一下。小李可能會被250年后的很多東西震驚，但是至少他不會被嚇尿。所以說，對于1750年的老王來說，要把人嚇尿，他需要回到更古老的過去比如回到公元前12000年，第一次農(nóng)業(yè)革命之前。那個時候還沒有城市，也還沒有文明。一個來自狩獵時代的人類，只是當時眾多物種中的一個罷了，來自那個時代的小趙看到1750年龐大的人類帝國，可以航行于海洋上的巨艦，居住在“室內(nèi)”，無

3、數(shù)的收藏品，神奇的知識和發(fā)現(xiàn)他很有可能被嚇尿。小趙如果要把人嚇尿，可能要回到十萬年前或者更久，然后用人類對火和語言的掌控來把對方嚇尿。所以，一個人去到未來，并且被嚇尿，他們需要滿足一個“嚇尿單位”。滿足嚇尿單位所需的年代間隔是不一樣的。在狩獵時代滿足一個嚇尿單位需要超過十萬年，而工業(yè)革命后一個嚇尿單位只要兩百多年就能滿足。也就是說：進步越來越大，發(fā)生的越來越快，也就是說我們的未來會很有趣對吧？加速回報定律也就是說，幾十年后的世界很可能變的面目全非，成為一個我們無法理解的世界那么，帶來這一切的會是什么呢？科學家普遍認為下一個科技爆發(fā)點是人工智能人工智能有3種：弱人工智能強人工智能超人工智能弱人工

4、智能是在特定領域等同或者超過人類智能/效率的機器智能我們處在一個充滿弱人工智能的世界！谷歌翻譯聲音識別垃圾郵件過濾器?，F(xiàn)在的弱人工智能，就是地球早期軟泥中的氨基酸沒有動靜的物質(zhì)，突然之間就組成了生命。強人工智能是指在各方面都能比肩或者超過人類的人工智能我們目前還沒有達成這個目標。造一個能在瞬間算出十位數(shù)乘法的計算機非常簡單造一個能分辨出一個動物是貓還是狗的計算機極端困難造一個能戰(zhàn)勝世界象棋冠軍的電腦早就成功了造一個能夠讀懂六歲小朋友的圖片書中的文字，并且了解那些詞匯意思的電腦谷歌花了幾十億美元在做，還沒做出來。為什么這么難？用計算機科學家Donald Knuth的說法，“人工智能已經(jīng)在幾乎所有

5、需要思考的領域超過了人類，但是在那些人類和其它動物不需要思考就能完成的事情上，還差得很遠?！庇布阅壳坝布闹笖?shù)級發(fā)展趨勢，未來幾十年內(nèi)完全可以達到普及等同于人腦運行速度的電腦軟件如何讓電腦變得智能如何才能達成強人工智能呢？1、模擬人腦至今為止，我們剛剛能夠模擬1毫米長的扁蟲的大腦，這個大腦含有302個神經(jīng)元。人類的大腦有1000億個神經(jīng)元，聽起來還差很遠。但是要記住指數(shù)增長的威力我們已經(jīng)能模擬小蟲子的大腦了，螞蟻的大腦也不遠了，接著就是老鼠的大腦，到那時模擬人類大腦就不是那么不現(xiàn)實的事情了。2、自我改進1）指數(shù)級增長的開端可能像蝸牛漫步，但是后期會跑的非常快2）軟件的發(fā)展可能看起來很緩慢，但

6、是可能一個無意的變動，就能讓現(xiàn)在的系統(tǒng)變得強大千倍，從而開啟朝人類級別智能的沖刺。兩種方法總有一天，我們會造出和人類智能相當?shù)膹娙斯ぶ悄茈娔X以下的情景很可能會發(fā)生：一個人工智能系統(tǒng)花了幾十年時間到達了人類腦殘智能的水平，而當這個節(jié)點發(fā)生的時候，電腦對于世界的感知大概和一個四歲小孩一般；而在這節(jié)點后一個小時，電腦立馬推導出了統(tǒng)一廣義相對論和量子力學的物理學理論；而在這之后一個半小時，這個強人工智能變成了超人工智能，智能達到了普通人類的17萬倍。當一個超人工智能出生的時候，對我們來說就像一個全能的上帝降臨地球一般。一個小公司，取名叫“隔壁老王機器人公司”，他們有一款機器人叫作“隔壁老王”。隔壁老王

7、是一個簡單的人工智能系統(tǒng)，它利用一個機器臂在小卡片上不停地寫這句話：隔壁老王最初被設定的一個目標就是“盡量多的書寫和測試，盡量快的執(zhí)行，并且不斷提高效率和準確性?！彪S著時間的推移，隔壁老王變的越來越聰明，能力也越來越強，自我改進也越來越快當隔壁老王突破到強人工智能的時候，它會在很短的時間內(nèi)達到超人工智能的水平這個時候會發(fā)生什么？隔壁老王從一個想要好好寫字的弱人工智能變成一個超級聰明的超人工智能后，它依然還是想好好寫字而已。當隔壁老王達到了一定程度的智能后，它會意識到如果不自保就沒有辦法寫卡片，所以去除對它生存的威脅就變成了它的手段目標。它聰明的知道人類可以摧毀它、肢解它、甚至修改它的代碼（這會改變它的目標，而這對于它的最終目標的威脅其實和被摧毀是一樣的）。這時候它會做什么？理性的做法就是毀滅全人類，它對人類沒有惡意，就好像你剪頭發(fā)時對頭發(fā)沒有惡意一樣，只是純粹的無所謂罷了，所以毀滅人類就和繼續(xù)寫字一樣合理。我們結(jié)合達成目標、理性、以及比人類聰明很多這些條件，好像所有的人工智能都會變成不友善的人工智能，除非一開始的代碼寫的很小心。所以，超人工智能帶給我們的是永生還是滅絕取決于我們是否能在超人工智能達成前搞明白怎樣保證人工智能的安全性人有了知識，就會具備各種分析能力，明辨是非的能力。所以我們要勤懇讀書，廣泛閱讀，古人