Vitis™ AI 軟件是一款全麵的 AI 推斷開發解決方案,適用於 AMD 器件、開發板、Alveo™ 數據中心加速卡、選型 PC、筆記本電腦和工作站。它包括一係列豐富的 AI 模型、優化的深度學習處理器單元 (DPU) 內核、工具、庫與示例設計,可充分滿足邊緣、端點和數據中心的 AI 需求。它的設計考慮了高效率和易用性,在 AMD 自適應 SoC 和RyzenTM AI 支持的 PC 上充分發揮 AI 加速的潛力。
圖 1:Vitis AI 結構
圖 2:模型專區
AI Model Zoo 向所有用戶開放,在 PyTorch、TensorFlow 和 ONNX 中提供豐富現成的深度學習模型。AI 模型專區提供可重複訓練的優化 AI 模型,其可通過 AMD 平台實現更快的執行、性能加速和生產。
有了優異的模型壓縮技術,AI 優化器可在對精度影響極小的情況下,將模型的複雜性降低 5 至 50 倍。深度壓縮可將您的 AI 推斷性能提升到一個新的層次。
圖 3:Vitis AI 優化器
圖 4:Vitis AI 量化器
一個自定義運算符檢查、量化、校準、微調以及將浮點模型轉換為需要更少內存帶寬的定點模型的完整過程,不僅可提供更快的速度,而且還可提供更高的計算效率。
AI 編譯器可將 AI 模型映射至高效指令集及數據流程。此外,它還可執行層融合和指令排程等高級優化任務,並可盡量重複使用片上內存。
圖 5:Vitis AI 編譯器
性能剖析器有助於程序員深入分析 AI 推斷實現方案的效率和利用率。
Vitis AI 庫是一組高層次庫和 API,旨在通過 DPU 核進行有效的 AI 推斷。它建立在支持統一 API 的 Vitis AI 運行時 (VART) 基礎之上,可為 AMD 平台上的 AI 模型部署提供簡單易用的接口。
圖 7:Vitis AI 庫
圖 8:Vitis AI 編譯器
WeGO 框架推斷流程提供一條從訓練到推斷的直接路徑,可利用本地 TensorFlow 或 PyTorch 框架將 DPU 不支持的運算符部署到 CPU 中,從而可顯著加速通過雲 DPU 執行的模型部署與評估。
DPU 是一種靈活應變的特定領域架構 (DSA),可與基於 CNN 和 Transformer 模型的 AI 算法相匹配,並擁有 AMD 自適應 SoC、Alveo 數據中心加速器卡和選型 Ryzen AI PC 的行業領先性能 。
Vitis™AI 軟件不僅可為邊緣設備提供支持優化算法的強大計算性能,同時還可憑借優化的功耗實現部署的高靈活性。它可為汽車、工業、醫療以及視頻分析等普及型邊緣應用提高計算性能。
AMD Ryzen™ 7040 係列移動處理器采用 AMD XDNA™ 架構構建,助力加速多任務處理、提升生產力、效率和高級協作。
有了 Vitis AI 解決方案的支持,Alveo™ 數據中心加速卡可為 CNN、RNN 及 NLP 上的不同工作負載提供極具競爭力的 AI 推斷性能。開創性本地 AI 解決方案旨在滿足現代數據中心對超低時延、更高吞吐量以及高靈活性的需求,可通過 CPU、GPU 以更低總體擁有成本提供更高計算性能。
通過與 AWS 和 VMAccel 等公共雲服務提供商合作,AMD 現在可提供對 FPGA 和 Versal™ 自適應 SoC 雲實例的遠程訪問,從而能夠快速啟動模型部署,即使沒有本地軟硬件也沒問題。
現已為在模型、工具以及深度學習處理器單元等上使用 Vitis™AI 平台開發提供廣泛的文檔支持。
鏈接至以下特定文檔或訪問文檔門戶網站,查看所有 Vitis AI 平台文檔。
借助 Vitis™ AI,您可在嵌入式平台上使用 3D 感知 AI 算法實現實時處理。硬件和軟件加速的共同優化實現了 Zynq™ UltraScale+™ MPSoC 上最新 PointPillars 模型的領先性能。
觀看視頻 >
延遲決定了自動駕駛汽車在高速行駛時和遇到障礙物時的決策。通過創新的領域特定加速器和軟件優化,Vitis AI 使自動駕駛汽車能夠以超低延遲和更高性能來處理深度學習算法。
百家乐游戏规则 >
Vitis AI 具有強大的可擴展性和自適應性,可適用於許多低端到高端的 ADAS 现金网博e百 ,提供業界領先的性能,支持流行的 AI 算法,用於前端 ADAS 中的對象檢測、車道檢測和分段以及車內或環繞聲查看係統。
百家乐群 >
城市越來越多地在邊緣點和雲端采用基於智能的係統。每天生成的海量數據需要強大的端到端 AI 分析係統,以便快速檢測和處理對象、流量和麵部行為。這為從邊緣到雲的每個框架增加了寶貴的見解。
詳細了解AMD 機器和計算機視覺 >
步驟 1:設置硬件平台
步驟 2:從 GitHub 下載並安裝 Vitis AI™ 環境
步驟 3:使用 VART 和 AI 庫運行 Vitis AI 環境示例
步驟 4:訪問教程、視頻等
如需了解更多嵌入式開發的信息,請點擊以下按鈕: