嵌入式FPGA從航空航天、網(wǎng)絡(luò)和通信到人工智能等的演變

嵌入式FPGA從航空航天、網(wǎng)絡(luò)和通信到人工智能等的演變雖然FPGA芯片自1980年代以來就已經(jīng)面市，但嵌入式FPGA（eFPGA）僅在大約五年前才面市。然而，由于其驚人的靈活性和功能集，它很快就在市場上占有一席之地。它現(xiàn)在可以從多個供應(yīng)商處商業(yè)化，在廣泛的代工廠（臺積電、格羅方德、中芯國際和三星）上以及在180、40、28、22、16、14、12和7nm等工藝節(jié)點上。eFPGA還被用于廣泛的應(yīng)用，例如航空航天、通信、網(wǎng)絡(luò)以及最近的人工智能（AI）。采用它的客戶（僅公布的客戶）包括桑迪亞國家實驗室、DARPA、波音、哈佛和晨芯（中國大唐電信的芯片子公司）。在eFPGA面世的短短幾年內(nèi)，業(yè)界已經(jīng)出現(xiàn)了幾代產(chǎn)品。隨著每一代新產(chǎn)品的推出，eFPGA變得更加靈活，更適用于新應(yīng)用，所有這些都是由客戶需求驅(qū)動的。事實上，eFPGA的應(yīng)用似乎是無窮無盡的，在未來，這項技術(shù)應(yīng)該會像今天的Arm處理器一樣普及。本文將回顧各代eFPGA，最后以目前可用的特性結(jié)束。第一代第一代eFPGA相對簡單，通常使用4輸入LUT。為了提供一系列陣列尺寸，一些供應(yīng)商將他們的eFPGA設(shè)計為復制塊陣列，其中頂層互連自動連接陣列范圍網(wǎng)狀互連中的塊。編程是在Verilog中使用命令行界面完成的。第二代第二代eFPGA根據(jù)客戶評估第一代的反饋增加了一系列功能。這些新功能包括：與當今最先進的FPGA一樣的6輸入LUT。6輸入LUT提高了eFPGA的密度和性能。能夠在陣列的行之間集成任何類型/大小的RAM。這為分布式計算提供了更多的本地化內(nèi)存。這是一個非常重要的新增功能，因為1/3的評估eFPGA的客戶要求使用此功能。GUI界面，用于使用各種圖形工具進行編程，以加快評估和開發(fā)。直接從GDS數(shù)據(jù)庫中提取的時序允許對任何PVT組合的性能進行評估?；刈x配置位（在高可靠性環(huán)境中需要）和在操作期間重寫配置位的能力。DFT覆蓋率99%以上。一種新的配置加載模式，將測試時間減少了大約100倍。為每個帶有PC接口的新工藝提供評估板。如今，客戶正在使用第二代eFPGA進行設(shè)計，這些設(shè)計在每個芯片的多個陣列中使用FlexLogix的EFLXeFPGA，陣列大小高達數(shù)十萬個LUT。第三代從上面的描述可以看出，前幾代eFPGA執(zhí)行的功能類似于FPGA芯片。但是，在第三代eFPGA中，它開始做FPGA芯片沒有做的事情。第三代eFPGA的一個例子是FlexLogix的nnMAX，它是一種經(jīng)過優(yōu)化的推理eFPGA，具有以下新特性：它由高級神經(jīng)網(wǎng)絡(luò)模型語言（如TensorflowLite和ONNX）編程。nnMAX編譯器自動執(zhí)行較低級別的Verilog編程，從而釋放客戶并獲得更高的性能。每層運行大約十億個MAC（乘法累加操作）的神經(jīng)網(wǎng)絡(luò)層。nnMAX為下一層重新配置eFPGA互連和“軟邏輯”（控制狀態(tài)機），然后再次開始運行。在早期的eFPGA中，重新配置是串行完成的，類似于FPGA芯片。相反，nnMAX以高度并行模式進行配置，以便在1GHz操作下大約1，000個周期重新配置整個陣列。將AI優(yōu)化的MAC（8x8整數(shù)、16x16整數(shù)和/或16x16浮點）組織成每個64個的集群。在傳統(tǒng)的eFPGA中，每個MAC都單獨連接到互連網(wǎng)絡(luò)中。在AI工作負載中，矩陣乘法非常大，因此集群是一種獲得更高密度并更有效地使用稀缺互連網(wǎng)絡(luò)資源的邏輯方法?？梢栽赪inograd加速模式下運行以加速3x3卷積，步幅為1x2.25x，用于整數(shù)8運算能夠在層之間混合精度：硬件可以根據(jù)需要從整數(shù)8/16轉(zhuǎn)換為浮點數(shù)并返回。這允許模型設(shè)計者最大化吞吐量和最大化預測準確性。Interconnect現(xiàn)在具有流水線觸發(fā)器，可實現(xiàn)1GHz吞吐量，同時每層僅增加幾個延遲周期。迄今為止，上述新功能僅適用于nnMAX推理eFPGA。但是，根據(jù)客戶的興趣，其中一些功能也可能出現(xiàn)在未來的第三代通用eFPGA中。特殊的醬汁在互連中雖然eFPGA最初是為通信和網(wǎng)絡(luò)等應(yīng)用而開發(fā)的，但隨著時間的推移，F(xiàn)lexLogix等公司想出了如何利用eFPGA中使用的相同核心互連技術(shù)來解決爆炸性AI市場的神經(jīng)推理部分。在神經(jīng)推理中，計算主要是數(shù)萬億次運算（乘法和累加，通常使用8位整數(shù)輸入和權(quán)重，有時使用16位整數(shù)）。最初為eFPGA開發(fā)的技術(shù)非常適合推理，因為eFPGA允許對每個網(wǎng)絡(luò)階段進行可重新配置的快速控制邏輯。eFPGA中的SRAM可根據(jù)需要在神經(jīng)網(wǎng)絡(luò)中重新配置，其中每一層都可能需要不同的數(shù)據(jù)大小。例如，F(xiàn)lexLogix互連允許SRAM輸入庫、MAC集群、未來eFPGA是一種非常強大和靈活的技術(shù)，適用于廣泛