2024年人工智能全景報告

2024年人工智能全景報告【譯者按】今年10月，英國風投公司AirStreetCapital發(fā)布第七版《人工智能全景報告》。人工智能正迅速成為全球經(jīng)濟發(fā)展的關(guān)鍵驅(qū)動力，系統(tǒng)評估人工智能行業(yè)現(xiàn)狀和未來趨勢尤為重要。報告全面審視了人工智能在研究、產(chǎn)業(yè)、政治和安全四方面的最新進展，揭示了包括多模態(tài)基礎(chǔ)模型突破學(xué)科局限、龍頭企業(yè)與初創(chuàng)企業(yè)并行加速發(fā)展、人工智能監(jiān)管立法持續(xù)提速、企業(yè)關(guān)注點從安全主義轉(zhuǎn)向加速發(fā)展等重大趨勢。同時，報告對未來12個月全球人工智能發(fā)展作出了前瞻性預(yù)測。賽迪智庫未來產(chǎn)業(yè)研究中心對該報告進行了編譯，期望對我國有關(guān)部門有所幫助?！娟P(guān)詞】人工智能 研究 產(chǎn)業(yè) 政治 安全 預(yù)測研究：技術(shù)突破及其能力。產(chǎn)業(yè)：人工智能的商業(yè)應(yīng)用領(lǐng)域及其商業(yè)影響。政治：人工智能的監(jiān)管、經(jīng)濟影響以及不斷演變的人工智能地緣政治。安全：確定并減輕未來高性能人工智能系統(tǒng)可能帶來的災(zāi)難性風險。預(yù)測：未來12個月可能會發(fā)生的事。一、概述（一）研究前沿實驗室的表現(xiàn)趨于一致，但因為規(guī)劃和推理已成為主要OpenAIo1大型語言模型后仍保持領(lǐng)先優(yōu)勢。隨著多模態(tài)研究深入到數(shù)學(xué)、生物學(xué)、基因組學(xué)、物理科學(xué)和神經(jīng)科學(xué)領(lǐng)域，基礎(chǔ)模型展現(xiàn)出了突破語言局限的能力。美國的制裁未能阻止中國的大型語言模型在社會各界排行榜上的飆升。（二）產(chǎn)業(yè)英偉達（NVIDIA）仍是全球最具實力的公司，躋身市值3萬億美元企業(yè)之列。監(jiān)管機構(gòu)正在對生成式人工智能領(lǐng)域的權(quán)力集中問題展開調(diào)查。更為成熟的生成式人工智能企業(yè)已實現(xiàn)數(shù)十億美元的營收，初創(chuàng)企業(yè)也開始在視頻和音頻生成等領(lǐng)域嶄露頭角。盡管這些企業(yè)的發(fā)展已開始從模型研發(fā)邁向產(chǎn)品落地，但有關(guān)定價和可持續(xù)性的長期問題仍未解決。在公共市場牛市的推動9萬億美元，同時私營企業(yè)的投資也在健康增長。（三）政治在全球治理停滯不前背景下，國家和地區(qū)層級的人工智能監(jiān)管卻在不斷推進，美國和歐盟都通過了相關(guān)立法，但這些立法頗具爭議。計算需求的實際情況迫使大型科技企業(yè)不得不考慮在規(guī)模擴張方面面臨的現(xiàn)實物理限制以及它們自身的排放目標。與此同時，各國政府在能力建設(shè)方面的嘗試仍然滯后。人工智能對選舉、就業(yè)以及一系列其他敏感領(lǐng)域可能產(chǎn)生的影響目前還尚未顯現(xiàn)。（四）安全企業(yè)的關(guān)注點正在從安全向加速發(fā)展轉(zhuǎn)變，之前還在警告人類即將滅絕的企業(yè)，現(xiàn)在卻在大力提高銷售額，推廣消費類應(yīng)用程序。世界各國政府紛紛效仿英國，構(gòu)建提升人工智能安全的國家能力，成立相關(guān)機構(gòu)，研究關(guān)鍵國家基礎(chǔ)設(shè)施在人工智能方面存在的潛在漏洞。每一項人工智能發(fā)起的攻擊都以失敗告終，但讓研究人員更加擔憂的卻是更為復(fù)雜、長期的攻擊。二、研究（一OpenAI草莓（Strawberry）的問世，將在擴展推理計算方面加倍發(fā)力這一年的大部分時間，各項基準測試和社會各界排行榜都顯GPT-4與“其他最優(yōu)模型”3.5Sonnet、Gemini1.5Grok2等模型幾乎消除了這一差距，如今OpenAI團隊顯然很早就察覺到了推理計算的潛力，在其他實驗室發(fā)表有關(guān)該技術(shù)的論文幾周后，OpenAI的o1就問世了。（二）盡管屢受制裁，中國的大型語言模型仍榜上有名深度求索、零一萬物、智譜和阿里巴巴所研發(fā)的模型在大型模型系統(tǒng)機構(gòu)排行榜上取得了優(yōu)異名次，尤其在數(shù)學(xué)和編程方面展現(xiàn)出了令人矚目的成果。例如，深度求索率先采用多頭潛在注意力11多頭潛在注意力（Multi-headLatentAttention,MLA）是一種在自然語言處理和其他序列數(shù)據(jù)處理任務(wù)中使用的注意力機制。它是多頭注意力（Multi-headAttention,MHA）的一種變體，通過低秩壓縮鍵（Key）和值（Value）來減少KV緩存的大小，從而提高推理效率。力于構(gòu)建強大的中文數(shù)據(jù)集，以彌補其在常用數(shù)據(jù)存儲庫中相關(guān)數(shù)據(jù)相對匱乏的不足。（三）中國的開源項目贏得了全球粉絲為推動國際上的采用和評估，中國的實驗室已成為熱情的開源貢獻者。有幾款模型已在個別子領(lǐng)域中嶄露頭角，成為強有力Deepseek-Coder-V2已成為編程任務(wù)中最受歡迎的工具之一，具有速度、輕便、準確等優(yōu)點。阿里Qwen-2系列芯片，其出色的視覺識別技術(shù)震撼業(yè)界，任務(wù)中展現(xiàn)出非凡實力，還能深度解析紛繁精妙的藝術(shù)作品。（四）人工智能亦可獲得諾貝爾獎瑞典皇家科學(xué)院將諾貝爾獎授予深度學(xué)習領(lǐng)域的先驅(qū)者，表明人工智能作為一門學(xué)科以及加速科學(xué)發(fā)展的工具，已經(jīng)發(fā)展成熟。（五DeepMind和同構(gòu)實驗室發(fā)布了AlphaFold3模型，它是2增強型混合專家（MoE）是一種深度學(xué)習模型，它通過將多個專業(yè)化的子模型（即專家”）組合起來，形成一個“專家”“專家”“絡(luò)”的機制。AlphaFold2以及抗體與蛋白質(zhì)靶點的相互作用機制。（六）AlphaProteo：DeepMind公司展示了新的實驗生物學(xué)能力DeepMind公司的神秘蛋白質(zhì)設(shè)計團隊終于憑借其首個模型AlphaProteo“走出幕后”。這是一個生成式模型，能夠設(shè)計出親和力提高3到300倍的亞納摩爾級蛋白質(zhì)結(jié)合劑。（七）學(xué)習設(shè)計人類基因組編輯器的語言模型之前介紹了如何使用在大量多樣的天然蛋白質(zhì)序列數(shù)據(jù)集上預(yù)先訓(xùn)練的大型語言模型（ProGen2）來設(shè)計與天然蛋白質(zhì)序列完全不同的功能蛋白質(zhì)?，F(xiàn)在，ProfluentCRISPR-Cas圖譜ProGen2器，且這些編輯器首次被證明可在體外對人類細胞的DNA編輯。（八）人工智能基礎(chǔ)模型：通過功能性磁共振成像了解大腦活動深度學(xué)習最初受到神經(jīng)科學(xué)的啟發(fā)，如今正應(yīng)用于對大腦本“大腦語言模型6700小時人類大腦活動記錄構(gòu)建的基礎(chǔ)模型，這些記錄是通過功能性磁共振成像生成的，該技術(shù)可檢測血氧含量的變化。該模型學(xué)會了重建被掩蓋的時空大腦活動序列，且能夠泛化到未見過的數(shù)據(jù)分布?？赏ㄟ^微調(diào)該模型來預(yù)測臨床變量，例如年齡、神經(jīng)質(zhì)程度、創(chuàng)（九）各科學(xué)領(lǐng)域的基礎(chǔ)模型：大氣領(lǐng)域傳統(tǒng)的大氣模擬方法，如數(shù)值天氣預(yù)報，成本高昂，且無法利用各種稀缺的大氣數(shù)據(jù)模態(tài)。但基礎(chǔ)模型在這些方面的表現(xiàn)卻Aurora，能夠針對諸多大氣預(yù)報問題進行預(yù)測，比如全球空氣污染和高分辨率中期天氣模式等問題。它還能通過利用通用的已習得大氣動力學(xué)表征來適應(yīng)新任務(wù)。（十）心智的基礎(chǔ)模型：重建看到的事物MindEye2映射到豐富的對比語言-圖像預(yù)訓(xùn)練（CLIP）空間，然后利用經(jīng)StableDiffusionXL模型從該空間重建個體所看到的圖像。該模型在自然場景數(shù)據(jù)集上進行訓(xùn)練，這是一個基于8名受試者構(gòu)建的功能性磁共振成像數(shù)據(jù)集，在這些受試者觀看來自COCO（每次3秒3040小時的捕捉。（十一）程序搜索在數(shù)學(xué)領(lǐng)域獲得新發(fā)現(xiàn)趣味搜索利用大型語言模型生成和修改程序，并能通過對求解質(zhì)量打分實現(xiàn)功能進化。趣味搜索通過搜索程序而非直接的解決方案，發(fā)現(xiàn)復(fù)雜對象或策略的簡潔且可解釋的表述形式。肖萊認為，這種形式的程序搜索是最有可能解決抽象和推理挑戰(zhàn)的途徑之一。谷歌DeepMind團隊將其應(yīng)用于極值組合學(xué)中的帽集問題以及在線裝箱問題。在這兩個案例中，趣味搜索都發(fā)現(xiàn)了超越人類設(shè)計方法的新穎解決方案。（十二）基礎(chǔ)模型能否讓大規(guī)模訓(xùn)練強化學(xué)習智能體變得更容易？訓(xùn)練強化學(xué)習智能體的一大瓶頸是訓(xùn)練數(shù)據(jù)的短缺。諸如轉(zhuǎn)換已有環(huán)境或手動構(gòu)建環(huán)境這類標準方法都需要耗費大量人力，且無法實現(xiàn)規(guī)?；?。帝國理工學(xué)院和英屬哥倫比亞大學(xué)的OMNI-EPIC項目利用大型語言模型創(chuàng)建了理論上無窮無盡的強化學(xué)習任務(wù)和環(huán)境流，以幫助智能體基于先前學(xué)到的技能進一步Python（十三）人工智能研究領(lǐng)域的全球力量平衡并未改變，但學(xué)術(shù)界有所獲益人工智能出版物數(shù)量的同比變化隨著人工智能成為新競爭戰(zhàn)場，大型科技企業(yè)開始對研發(fā)工作的更多細節(jié)秘而不宣。自本報告開始發(fā)布以來，前沿實驗室首次大幅削減成果發(fā)表數(shù)量，而學(xué)術(shù)界也參與其中（見圖1）。人工智能出版物數(shù)量的同比變化加利福尼亞大學(xué)伯克利分校牛津大學(xué)清華大學(xué)米迪亞研究麻省理工學(xué)院華為谷歌騰訊阿里巴巴微軟元宇宙IBM圖1加利福尼亞大學(xué)伯克利分校牛津大學(xué)清華大學(xué)米迪亞研究麻省理工學(xué)院華為谷歌騰訊阿里巴巴微軟元宇宙IBM三、產(chǎn)業(yè)（一）英偉達成為全球最具實力的公司，不斷提出更具雄心的目標隨著用于支持對算力要求極高的生成式人工智能工作負載的硬件需求不斷增長，各大實驗室都需要依靠英偉達提供的硬件。63萬億美元，成為繼微軟和蘋果之后第三家達到這一里程碑的美國公司。其第二季度財報業(yè)績依然亮眼，地位Blackwell系列圖形處理器上獲得了大量預(yù)訂單，并且正在積極爭取政府方面的訂單。（二）老牌競爭對手未能縮小差距超威半導(dǎo)體和英特爾已經(jīng)開始投資建設(shè)軟件生態(tài)系統(tǒng)，超威半導(dǎo)體公司已經(jīng)利用ROCm們尚未開發(fā)出能與英偉達網(wǎng)絡(luò)解決方案產(chǎn)品組合相媲美的有競49億美元收購服務(wù)器制造ZT系統(tǒng)公司（ZTSystems）的計劃能改變這一局面。與此同時，英特爾的硬件銷售額出現(xiàn)了下滑。除非出現(xiàn)監(jiān)管干預(yù)、研究范式轉(zhuǎn)變或供應(yīng)受限等情況，否則英偉達的地位似乎堅不可摧。（三）購買英偉達的股票要比投資那些與英偉達競爭的初創(chuàng)企業(yè)好得多201660億美元進行分析和設(shè)想，如果投資者當時按當日股價購入等值的英偉達股票，情況會怎樣？答案是：若買入英偉達股票，那60億1200億美元（20倍），而投入初創(chuàng)企業(yè)如今的價值僅310億美元（僅漲5倍）。（四）并非所有人都認為英偉達只會越來越好有一小部分直言不諱的分析師和評論員并不信服。他們指出圖形處理器稀缺狀況已有所緩解，目前只有少數(shù)幾家公司能從人工智能產(chǎn)品中獲得可靠營收，而且大型科技企業(yè)的基礎(chǔ)設(shè)施建設(shè)規(guī)模也不太可能大到足以支撐英偉達目前的估值。市場目前對這·安德森的觀點，即英偉達在十年內(nèi)市值可能達到“數(shù)萬億美元”。（五）但初創(chuàng)企業(yè)的收入在哪里？利潤又在哪里？許多從事生成式人工智能的熱門初創(chuàng)企業(yè)正在以創(chuàng)紀錄的、通常是三位數(shù)的營收倍數(shù)進行融資。雖然這可能表明投資者對未來回報有信心，但這也設(shè)定了一個很高的門檻，因為這些企業(yè)中的很多目前還沒有明確的盈利途徑。然而，并非所有的企業(yè)都是OpenAI有望在一年內(nèi)實現(xiàn)營收增長兩倍，但訓(xùn)練、推理及人員成本意味著虧損仍在持續(xù)增加。他們并非唯一一家在尋求實現(xiàn)良性經(jīng)濟運作的領(lǐng)軍企業(yè)。（六）或許收入和利潤兩者都不重要：要恢復(fù)股價只需要一種氛圍元宇宙公司通過放棄在元宇宙領(lǐng)域的大量投資，憑借“羊駝”模型大力轉(zhuǎn)向開源人工智能領(lǐng)域，在公共市場引發(fā)了令人難以置·扎克伯格實際上已成為開源人工智能救世主，與OpenAI、Anthropic和谷歌DeepMind形成對抗之勢。（七OpenAIo1隨著模型種類日益豐富，開發(fā)者們正在根據(jù)工作需求（以及自身預(yù)算）選擇合適工具。（八）模型費用持續(xù)下降下降60倍下降下降60倍下降100倍2：OpenAI和Anthropic（九）谷歌Gemini推出了一個強大的模型系列，定價極具競爭力Gemini1.5Pro和1.5Flash的價格在推出幾個月后就下降了64%至86%，但性能依然強勁，例如Flash-8B比1.5Flash便宜50%，但在許多基準測試中的表現(xiàn)卻不相上下。（十）人工智能實驗室從構(gòu)建模型轉(zhuǎn)向設(shè)計產(chǎn)品像蘋果、谷歌或抖音等成功的科技公司都是以產(chǎn)品為先，而API。隨著基礎(chǔ)模型性能趨于接近，OpenAIAnthropic和元宇宙公司顯然都在更深入地思考其“產(chǎn)品”應(yīng)該呈現(xiàn)出怎樣的外觀和使用體驗，不管是Anthropic公司“Claude”的相關(guān)成果、OpenAI的硬件合作項目以及對口型工具。僅構(gòu)建出優(yōu)秀的模型是不夠的。（十一）監(jiān)管機構(gòu)對關(guān)鍵的生成式人工智能參與者之間的關(guān)系進行詳盡審查，導(dǎo)致偽收購作為一種退出策略興起鑒于高昂的計算成本，模型構(gòu)建者越來越依賴與老牌大型科技企業(yè)合作。反壟斷監(jiān)管機構(gòu)擔心這會讓現(xiàn)有企業(yè)的地位更加不可動搖。監(jiān)管行動在塑造市場方面作用有限，經(jīng)濟因素更具決定性。鑒于眾多“其他企業(yè)”的性能趨于相近，且這些企業(yè)高昂的資本性支出需求，整合也就不足為奇了。鑒于存在監(jiān)管障礙，偽收購開始興起，即大型科技企業(yè)：聘用初創(chuàng)企業(yè)的創(chuàng)始人和大部分團隊成員；該初創(chuàng)企業(yè)退出模型構(gòu)建領(lǐng)域，轉(zhuǎn)而專注于其企業(yè)服務(wù)業(yè)務(wù)；通過許可協(xié)議向投資者支付款項。監(jiān)管機構(gòu)已經(jīng)發(fā)現(xiàn)了這一問題，大西洋兩岸的監(jiān)管機構(gòu)都已在這方面開始詳盡審查。（十二）文本轉(zhuǎn)語音正在蓬勃發(fā)展文本轉(zhuǎn)語音領(lǐng)域市場領(lǐng)導(dǎo)者ElevenLabs在今年年初達到獨角獸級別，估值達11億美元。由于各大實驗室對該領(lǐng)域涉足有限，因此ElevenLabs得以獨占鰲頭。（十三）語音識別在商業(yè)領(lǐng)域站穩(wěn)了腳跟雖然文本轉(zhuǎn)語音因“效果驚艷”而備受關(guān)注，但語音識別卻可能被用于實現(xiàn)日常任務(wù)的自動化規(guī)模處理。投資者開始看到語音識別在規(guī)?；l(fā)展方面的潛力。（十四）視頻生成領(lǐng)域的競爭正趨于白熱化RunwayPikaLumaOpenAI等眾多參與者正在大規(guī)模擴大其數(shù)據(jù)收集和模型訓(xùn)練實驗的規(guī)模，以期在文本到視頻生成方面提高生成質(zhì)量和穩(wěn)定性，此外還致力于生成更長的視頻片段。（十五）人工智能投資在各個地區(qū)都大幅增長xAIOpenAI（60億美元融資）等通用人工智能巨額融資的推動下，美國私募市場繼續(xù)保持領(lǐng)先地位，對人工智能企業(yè)1000億美元（3）。歐盟歐盟27國+挪威、瑞士 英國 美國 中國 圖3：人工智能投資情況（十六）在上市公司的推動下，人工智能企業(yè)的市值達到近9萬億美元雖然私營公司的估值一直在穩(wěn)步攀升，但少數(shù)幾家上市公司卻像Atlas一樣撐起了整個市場。僅上市公司目前的價值就超過了2023年的整個市場價值（見圖4）。私私公司 上公司 圖4：上市公司和私營公司市值四、政治（一）美國通過行政命令引入有限的前沿模型規(guī)則，各州則推行各自更具爭議性的規(guī)則在2023年7月獲得大型實驗室自愿遵守相關(guān)模型發(fā)展規(guī)定的承諾之后，白宮決定將之前這些實驗室自愿表示要遵守的內(nèi)容變10月，拜登簽署了一項關(guān)于前沿模型監(jiān)管的行政命令。由于在更廣泛的聯(lián)邦人工智能監(jiān)管方面達成兩黨共識的可能性微乎其微，各州都在推行各自的人工智能法規(guī)，其中最引人注目的是加利福尼亞州的SB1047。（二）經(jīng)過最后一刻的瘋狂游說，歐盟《人工智能法案》最終正式成為法律今年3月，在法國和德國開展了一場集中的影響活動以弱化某些條款之后，歐洲議會通過了《人工智能法案》。然而，關(guān)于該法案的實施問題仍未得到解釋。（三）英國正緩慢朝著制定前沿模型相關(guān)立法的方向推進英國新工黨政府已發(fā)出信號，表示打算摒棄其前任僅通過現(xiàn)有立法來監(jiān)管人工智能的做法，不過這種轉(zhuǎn)變較為微妙。（四）中國的人工智能監(jiān)管進入執(zhí)法時代中國是首個開始制定生成式人工智能監(jiān)管措施的國家，從2022年起就出臺了全面的（最初是相關(guān)企業(yè)自愿遵循的）指導(dǎo)方針。如今，中國的審查機構(gòu)也開始介入。（五）日本對人工智能的態(tài)度很熱衷嗎？出于政治和文化等多種原因，從歷史上看，日本對于風險投資和人工智能初創(chuàng)企業(yè)一直是一個不溫不火的市場。而如今，日本政府突然熱衷于在這方面分得一杯羹。（六）公共計算方面的努力與私人計算方面的努力相比相形見絀英國、美國和歐盟都開始加大其公共計算服務(wù)的力度，為研究人員和初創(chuàng)企業(yè)提供補貼，使其能夠使用昂貴的硬件設(shè)備。但相關(guān)舉措仍處于試驗性階段。（七）不斷增長的計算能耗危及大型科技企業(yè)的凈零排放承諾，能源基礎(chǔ)設(shè)施也開始不堪重負大型科技企業(yè)已簽署了一系列到2030年的氣候承諾，微軟甚至承諾實現(xiàn)碳負排放。但人工智能的能耗卻意味著他們目前正朝著錯誤的方向發(fā)展。人工智能面臨的環(huán)境挑戰(zhàn)與一個在規(guī)模化過程中常常被遺忘的阻礙因素密切相關(guān)，那就是現(xiàn)實世界的物理制約。（八以人工智能為先的國防領(lǐng)域競爭對手實現(xiàn)了規(guī)模擴張，是例外嗎？自去年的報告發(fā)布以來，已經(jīng)開始有一些重大合同被授予國防領(lǐng)域的挑戰(zhàn)企業(yè)，但由于中標數(shù)量仍然較少，現(xiàn)在就說一個新的生態(tài)系統(tǒng)正在形成為時尚早。（九）關(guān)于人工智能經(jīng)濟影響的爭論更加激烈2023（十）虛假信息研究發(fā)展迅速，但有關(guān)人工智能有效性的證據(jù)依然匱乏由于今日俄羅斯電視臺與西方受眾直接溝通的能力受到限制，被發(fā)現(xiàn)通過一款名Meliorator1000個虛假X賬號組成的網(wǎng)絡(luò)。另外也有跡象表明，與俄羅斯政府有關(guān)聯(lián)的人員在以色列-五、安全（一）從安全主義到加速主義：一種重大的氛圍轉(zhuǎn)變已經(jīng)發(fā)生從美國國會舉行聽證會以及為推動（關(guān)乎人類存亡的）人工智能安全議程而進行全球巡回宣傳的時期開始，領(lǐng)先的前沿模型企業(yè)正在加速向消費者推廣人工智能產(chǎn)品。（二）英國創(chuàng)建了世界上首家人工智能安全研究所，美國隨即效仿在“布萊切利峰會”召開之際，英國宣布其前沿人工智能特別工作組將由人工智能安全研究所（AISI）取代，這是世界上首家人工智能安全研究所。美國、日本和加拿大也紛紛跟進，但工作力度有限。（三）各國政府急于填補關(guān)鍵國家基礎(chǔ)設(shè)施中的漏洞除內(nèi)部加深對模型能力的理解外，英國也正在成為增強防御5900萬英鎊研發(fā)一種“把關(guān)系統(tǒng)用其內(nèi)部測試平臺來評估人工智能可能對關(guān)鍵基礎(chǔ)