2023混合AI是AI的未來(lái)白皮書(shū)（第二部分）-高通

2023年5月 3 3 4 43我們?cè)诮K端側(cè)生成式AI領(lǐng)域的領(lǐng)導(dǎo)力 4 5 5 6 7 7 9 9 5無(wú)與倫比的全球邊緣側(cè)布局和規(guī)模 3高通正在助力實(shí)現(xiàn)隨時(shí)隨地的智能計(jì)算。高合AI規(guī)模化擴(kuò)展獨(dú)具優(yōu)勢(shì)。高通的硬件解決方案一次編寫(xiě)即能實(shí)現(xiàn)跨我們芯片組解決方案的不同產(chǎn)品和2高通技術(shù)公司是終端側(cè)AI的領(lǐng)導(dǎo)者展的技術(shù)架構(gòu)讓我們能夠采用一個(gè)高度優(yōu)化的AI1/products/mobile/snapdragon/smartphones/mobile-ai驍龍和高通品牌產(chǎn)品是高通技術(shù)公司和/或其子公司的產(chǎn)品。進(jìn)連接、語(yǔ)音指令、安全和隱私等關(guān)鍵用例領(lǐng)域，持行業(yè)和用例的規(guī)模化擴(kuò)展。高通正在推動(dòng)AI進(jìn)步，讓感圖1：高通持續(xù)的AI研發(fā)投入是產(chǎn)品領(lǐng)導(dǎo)力的基礎(chǔ)。3我們?cè)诮K端側(cè)生成式AI領(lǐng)域的領(lǐng)導(dǎo)力痕跡（Artifact）的感知效果。我們利用VAE技術(shù)創(chuàng)建更好的視頻和語(yǔ)音編解碼器，將模型規(guī)模2高通AI研究是高通技術(shù)公司的機(jī)構(gòu)。未來(lái)在終端側(cè)支持參數(shù)高達(dá)數(shù)百億的模型。我們不僅在構(gòu)建計(jì)算架構(gòu)并使用語(yǔ)言來(lái)描述相關(guān)任務(wù)和行為，同時(shí)也正在研究如何），3.1突破終端側(cè)和混合AI邊界能，例如大語(yǔ)言模型（LLM）等。若要讓生成式AI得到廣3.2負(fù)責(zé)任的AI管理環(huán)境影響和以人為本等原則，我們的工作將產(chǎn)生廣泛深遠(yuǎn)的影響高通密切關(guān)注并配合參與全球各地政府的監(jiān)管框架、指導(dǎo)方針制定的《人工智能法》和美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所發(fā)布的《人工智能法規(guī)和最佳實(shí)踐是高通致力打造道德、負(fù)責(zé)的AI數(shù)據(jù)與隱私保護(hù)和穩(wěn)健的網(wǎng)絡(luò)安全。一直以來(lái)，高通深知擁有穩(wěn)健的綜合性標(biāo)準(zhǔn)4卓越的終端側(cè)AI技術(shù)和全棧優(yōu)化高通為應(yīng)用、神經(jīng)網(wǎng)絡(luò)模型、算法、軟件和圖2：高通全棧AI研究和優(yōu)化賦能技術(shù)持續(xù)改進(jìn)并引領(lǐng)高能效解決方案發(fā)展。上圖展示的循環(huán)創(chuàng)新方式讓我們能夠基于最新神經(jīng)網(wǎng)絡(luò)架構(gòu)，針高通演示的全球首個(gè)在Android智能手機(jī)上運(yùn)行的Stabl軟件棧，并將助力提升未來(lái)硬件設(shè)計(jì)。此外，讓StableDiffusion能夠在手機(jī)上高效運(yùn)行的優(yōu)化面向動(dòng)作識(shí)別設(shè)計(jì)的傳統(tǒng)深度學(xué)習(xí)模型會(huì)逐幀、逐層地處理視結(jié)果，但它是計(jì)算密集型的、時(shí)延高，并且能效低。高通現(xiàn)已推出的FrameExit模型能夠自主學(xué)結(jié)構(gòu)創(chuàng)新之外，高通全棧AI優(yōu)化還包括最先進(jìn)的量化技術(shù)和量化的軟件，以及支持INT4加速的第二代4.2軟件和模型效率Lite、TensorFlowLiteMicro和ONNXRuntime等在內(nèi)的runtime。此外，它還集成了推理軟件），Windows的不同版本。高通開(kāi)發(fā)者庫(kù)和服務(wù)支持最新的操作系統(tǒng)（包括Android、Windows、Linux和QNX），以及用于部署和8流。它將高通提供的全部工具集成到一個(gè)圖形用戶(hù)界面，并利用可視效工具包模型庫(kù)、模型分析器和神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NA圖3：高通AI軟件棧旨在幫助開(kāi)發(fā)者一次編寫(xiě)、隨處運(yùn)行，實(shí)現(xiàn)規(guī)模化部署。運(yùn)行。即使是那些已經(jīng)面向移動(dòng)終端優(yōu)化過(guò)的模型我們9圖4：高通AI研究采用整體AI模型效率研究方法。面向高效整數(shù)推理的量化是我們的重點(diǎn)關(guān)注領(lǐng)域之一。過(guò)去幾年，我們通過(guò)論文和演示分享了高通領(lǐng)先的AI量化研究，包括訓(xùn)練后量化（PTQ）技術(shù)，比如無(wú)數(shù)據(jù)量化和自適應(yīng)舍入高通AI模型增效工具包提供基于高通AI研究技術(shù)成果開(kāi)發(fā)的量化工具，目前已納入AIStudio。借助量化感知訓(xùn)練和/或更加深入的量化研究，許多生成式AI模型可以量化至INT4模的性能提升和60%的能效提升，能夠運(yùn)行至關(guān)重要。譯器將輸入的神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)化為可以在目標(biāo)硬件上運(yùn)行的代碼，同時(shí)針對(duì)時(shí)延、性能和功耗進(jìn)行優(yōu)化。編譯包括計(jì)算圖的切分、映射、排序和調(diào)度等以提高性能并最大程度減少內(nèi)存溢出。我們的優(yōu)化有助于減少DRAM存取量，并顯著降低4.3硬件加速圖5：與移動(dòng)領(lǐng)域競(jìng)品相比，第二代驍龍8提供領(lǐng)先的AI能效。全部面向在終端側(cè)快速高效地運(yùn)行AI應(yīng)用而打造。通過(guò)異2022年，第二代驍龍8為整個(gè)系統(tǒng)提供了開(kāi)創(chuàng)性的AI技術(shù)，搭載了迄今為止最快、最先模式視頻拍攝所帶來(lái)的樂(lè)趣。最新的Hexagon處理器采用專(zhuān)用供電系功率。特殊硬件提升了分組卷積、激活函數(shù)加速和Hexagon張量加速和INT4硬件加速能夠在提供更高性能的同時(shí)，降低能耗和內(nèi)存占用。Transformer加速大5無(wú)與倫比的全球邊緣側(cè)布局和規(guī)模高通技術(shù)公司部署的邊緣側(cè)終端規(guī)模十分龐大，搭載驍龍和到數(shù)十億臺(tái)，而且每年有數(shù)億臺(tái)的新終端還在進(jìn)入市場(chǎng)。4圖6：搭載驍龍平臺(tái)的終端能夠推動(dòng)混合AI擴(kuò)展至跨不同細(xì)分領(lǐng)域和層級(jí)的數(shù)十億產(chǎn)品。4CounterpointResearch，2023年5月占據(jù)前20位。5司。65.2汽車(chē)高通技術(shù)公司是座艙和車(chē)載信息娛樂(lè)解決方案的領(lǐng)導(dǎo)者，全球Stellantis、寶馬、通用汽車(chē)/凱迪拉克、長(zhǎng)城汽車(chē)、Mahindra、Togg、豐田、小鵬汽車(chē)、廣汽集5.3PC和平板電腦5基于分?jǐn)?shù)，截至2023年5月6TechInsights，2023年4月5.4物聯(lián)網(wǎng)），迄今為止，已有超過(guò)65款采用驍龍平臺(tái)的X6總結(jié)戶(hù)體驗(yàn)。終端側(cè)AI領(lǐng)導(dǎo)力賦予高通面向混合架構(gòu)轉(zhuǎn)轉(zhuǎn)向邊緣終端，因此需要邊緣側(cè)處理的高性能和出色能效。憑借具備前瞻性高通擁有無(wú)與倫比的邊緣側(cè)布局，全球搭載驍龍和高通平臺(tái)的推動(dòng)生成式AI規(guī)模化擴(kuò)展，為無(wú)數(shù)人的生活帶來(lái)積極影歡迎訂閱《未來(lái)移動(dòng)計(jì)算技術(shù)》簡(jiǎn)訊請(qǐng)關(guān)注我們：fyin欲了解更多信息，請(qǐng)?jiān)L問(wèn)本資料內(nèi)容不是銷(xiāo)售本文所提及任何組件或終端的