FPGA版通用圖形處理架構創新解決方案

介紹

“互聯網上的整個電子商務世界都是由圖形分析驅動的”，因為圖形結構可以自然地代表許多重要應用領域的數據集，例如社交網絡、網絡安全和機器學習。在當前的時代，圖形結構呈指數級增長，這就導致了這些應用程序的數據對高性能圖形處理產生了迫切的需求。

目前，基于 FPGA 的圖形處理加速器的仍在被大量研究；然而，高級圖形應用程序與底層CPU-FPGA平臺之間仍然存在差距，這需要開發人員了解硬件細節并花費大量精力進行編程（例如使用硬件描述語言編程和進行內存優化）。這一差距在很大程度上阻礙了數據中心應用程序開發人員采用 FPGA。

主角-ThunderGP

ThunderGP 通過為 FPGA 加速圖形處理帶來性能和可編程性來彌補上述差距。

ThunderGP是基于HLS的開源通用圖形處理框架，支持Vitis和SDAccel開發環境，適用于U50、U200、U250和VCU1525等Xilinx Alveo平臺（官方開發板）。借助 ThunderGP，開發人員只需編寫與硬件無關的基于顯式高級語言 (C++) 的 API 的高級函數即可使用FPGA強大的并行處理能力。ThunderGP 在具有多個SLR 的先進 FPGA 平臺上自動生成高性能加速器，并管理加速器的部署。

圖1：ThunderGP 概述。它與 Vitis 和 SDAccel 工具兼容。

ThunderGP 的概述如圖 1 所示。我們簡要說明主要模塊如下：

內置加速器模板。ThunderGP采用Gather-Apply-Scatter（GAS）模型作為各種圖算法的抽象，并通過內置的高度并行和高效的內存加速器模板來實現該模型。

自動加速器生成。自動加速器產生可綜合的加速器，釋放底層 FPGA 平臺的全部潛力。除了內置加速器模板之外，它還采用圖形算法和 FPGA 平臺模型（例如 U50）的分散、聚集和應用階段（來自 GAS 模型）來自開發人員作為輸入的用戶定義函數 (UDF) 。

圖形劃分和調度。ThunderGP采用基于目標頂點的垂直分區方法，無需引入邊緣排序等繁重的預處理操作，即可通過片上RAM實現頂點緩沖。

高級API。ThunderGP 提供了兩套基于 C++ 的 API：用于定制圖算法加速器的加速器 API（Acc-API）和用于加速器部署和執行的 Host-API。

有關GAS模型、API以及ThunderGP設計的詳細信息，請參考ThunderGP技術報告（附件或GitHub上）。

https://github.com/Xtra-Computing/ThunderGP/blob/develop_u50/docs/ThunderGP_technical_report.pdf

ThunderGP 有多易用？

我們進行了一個案例研究 - 使用 Vitis 2020.1 對 Alveo U50 板上的 COVID-19 進行預測 - 演示如何將 ThunderGP 輕松應用于現實生活中的圖形處理問題。

及時預測人口水平隨時間變化的感染流行率對于采取適當的封鎖措施（例如隔離或保持社交距離）減輕病毒的傳播具有重要作用。目前的傳播預測模型一般由空間元胞自動機（CA）和時間易感感染去除（SIR）模型組成，其中元胞代表一個居住區（例如縣）并維持其狀態（例如感染率）， SIR模型根據相鄰小區之間的傳輸來更新。因此，傳播可以表述為圖形處理問題， SIR 通過圖中的傳播進行更新。

我們使用 ThunderGP 實現了三種傳播模型：CA-SIR [1]、CA-SEIR [2] 和 CA-SAIR [3] 模型。該數據集來自 COVID-19 影響分析平臺 [4]，包含 3100 個縣和 230 萬個連接。

在這里，我們展示了清單 1 中為 CA-SAIR 模型實現加速器的示例。在分散階段，每個縣（小區）根據其感染率和連接強度計算感染率并推送到鄰近縣它量化了縣際流動的數量和頻率。在收集階段，該縣會累積推送給它的所有感染率。在應用階段，收集的感染率用于計算感染率。需要注意的是，apply階段涉及到很多用戶自定義的參數（ThunderGP支持apply階段的用戶自定義參數，詳細內容參見技術報告）。

50平臺上用于加速COVID-19傳播預測的用戶輸入。

圖 2 顯示了使用公共數據集進行預測一周后感染風險的可視化情況。結果與CPU端執行的開源Python程序[3]相符。

表 1 量化了 ThunderGP 在該任務中所涉及的開發工作，并顯示了與基于 Python 的 CPU 實現的性能比較[3]。根據結果，使用 ThunderGP 解決此問題的好處是雙重的。首先，ThunderGP比基于 CPU 的解決方案實現了高達419 倍的加速。能夠在短時間內預測傳播情況有助于對傳播情況做出快速、及時的反應。其次，隨著對病毒了解的不斷深入，CA-SIR模型正在快速發展。使用ThunderGP，開發人員通常只需編寫數十行代碼即可加速預測一天，從而最大程度地減少了開發工作量。

[1] MA Fuentes et al. Physica A: Statistical Mechanics and its Applications, 1999.

[2] José M Carcione et al. A simulation of a covid-19 epidemic based on a deterministic seir model. arXiv, 2020.

[3] Yiwang Zhou et al. A spatiotemporal epidemiological prediction model to inform county-level covid-19 risk in the united states. Harvard Data Science Review, 2020.

[4] University of Maryland COVID-19 Impact Analysis Platform. https://data.covid.umd.edu, 2020-09-10.

審核編輯：黃飛

?