靈活應變 & 實時
AI 推斷加速

概述

從邊緣到雲的最佳人工智能推斷

Vitis™ AI 平台是為 AMD 器件、板卡及 Alveo™ 數據中心加速卡提供的一款綜合 AI 推斷開發平台。它包括一係列豐富的 AI 模型、優化的深度學習處理器單元 (DPU) 內核、工具、庫與示例設計,可充分滿足邊緣和數據中心的 AI 需求。Vitis AI 以高效易用為設計理念,可在 AMD FPGA 和自適應 SoC 上充分發揮人工智能加速的潛力。

Vitis AI 部署特性

圖 1:Vitis AI 結構

如何使用 Vitis AI 平台開發:

  • 為主流框架和最新模型提供支持,幫助其完成各種深度學習任務,如 CNN、RNN 和 NLP 等
  • 功能強大的量化器和優化工具可實現優化的模型精度和處理效率
  • 便捷的編譯流程和高層次 API 可實現自定義模型的極速部署
  • 可配置的高效率 DPU 內核能夠充分滿足邊緣及雲端對吞吐量、時延和電源的不同需求

使用 Vitis AI 探索一切可能性

Vitis AI Model Zoo

圖 2:模型專區

AI 模型庫

AI Model Zoo 向所有用戶開放,在 PyTorch、TensorFlow 和 ONNX 中提供豐富現成的深度學習模型。AI 模型專區提供可重複訓練的優化 AI 模型,其可通過 AMD 平台實現更快的執行、性能加速和生產。


AI 優化器

有了優異的模型壓縮技術,AI 優化器可在對精度影響極小的情況下,將模型的複雜性降低 5 至 50 倍。深度壓縮可將您的 AI 推斷性能提升到一個新的層次。

人工智能優化器方框圖

圖 3:Vitis AI 優化器


人工智能量化器方框圖

圖 4:Vitis AI 量化器

AI 量化器

一個自定義運算符檢查、量化、校準、微調以及將浮點模型轉換為需要更少內存帶寬的定點模型的完整過程,不僅可提供更快的速度,而且還可提供更高的計算效率。


AI 編譯器

AI 編譯器可將 AI 模型映射至高效指令集及數據流程。此外,它還可執行層融合和指令排程等高級優化任務,並可盡量重複使用片上內存。

人工智能編譯器方框圖

圖 5:Vitis AI 編譯器


人工智能剖析器方框圖

圖 6:Vitis AI 分析器

AI 剖析器

性能剖析器有助於程序員深入分析 AI 推斷實現方案的效率和利用率。


AI 庫

Vitis AI 庫是一組高層次庫和 API,旨在通過 DPU 核進行有效的 AI 推斷。它建立在支持統一 API 的 Vitis AI 運行時 (VART) 基礎之上,可為 AMD 平台上的 AI 模型部署提供簡單易用的接口。

人工智能庫方框圖

圖 7:Vitis AI 庫


全圖形優化器(WeGO)模塊圖

圖 8:Vitis AI 編譯器

全圖形優化器 (WeGO)

WeGO 框架推斷流程提供一條從訓練到推斷的直接路徑,可利用本地 TensorFlow 或 PyTorch 框架將 DPU 不支持的運算符部署到 CPU 中,從而可顯著加速通過雲 DPU 執行的模型部署與評估。


深度學習處理器

深度學習處理器單元 (DPU)

DPU 是一款靈活應變的特定域架構 (DSA),其可將 CNN、RNN 和 NLP 快速發展的 AI 算法與 Zynq™ SoC、Zynq UltraScale+™ MPSoC、Alveo 數據中心加速卡以及 Versal自適應 SoC 上的工業領先性能進行完美匹配。

DPU 模塊圖

圖 9:Vitis AI DPU

部署
kria-board

邊緣部署

Vitis™AI 平台不僅可為邊緣設備提供支持優化算法的強大計算性能,同時還可憑借優化的功耗實現部署的高靈活性。它可為汽車、工業、醫療以及視頻分析等普及型邊緣應用提高計算性能。

瀏覽 AMD 及合作夥伴的邊緣平台 >


alveo-v70-hero

本地部署

有了 Vitis AI 解決方案的支持,Alveo™ 數據中心加速卡可為 CNN、RNN 及 NLP 上的不同工作負載提供極具競爭力的 AI 推斷性能。開創性本地 AI 解決方案旨在滿足現代數據中心對超低時延、更高吞吐量以及高靈活性的需求,可通過 CPU、GPU 以更低總體擁有成本提供更高計算性能。

選擇加速器卡 >


1592258132635
vmaccel-gray-tile.png

雲部署

通過與 AWS 和 VMAccel 等公共雲服務提供商合作,AMD 現在可提供對 FPGA 和 Versal™ 自適應 SoC 雲實例的遠程訪問,從而能夠快速啟動模型部署,即使沒有本地軟硬件也沒問題。

技術文檔

Vitis AI 平台文檔

現已為在模型、工具以及深度學習處理器單元等上使用 Vitis™AI 平台開發提供廣泛的文檔支持。

鏈接至以下特定文檔或訪問文檔門戶網站,查看所有 Vitis AI 平台文檔

Default Default 標題 文件類型 日期
解決方案

助力自動駕駛和 ADAS 技術

實時多類 3D 對象檢測

實時多類 3D 對象檢測

借助 Vitis™ AI,您可在嵌入式平台上使用 3D 感知 AI 算法實現實時處理。硬件和軟件加速的共同優化實現了 Zynq™ UltraScale+™ MPSoC 上最新 PointPillars 模型的領先性能。

觀看視頻>


麵向自動駕駛的超低延時應用

延遲決定了自動駕駛汽車在高速行駛時和遇到障礙物時的決策。通過創新的領域特定加速器和軟件優化,Vitis AI 使自動駕駛汽車能夠以超低延遲和更高性能來處理深度學習算法。

百家乐游戏规则 >

麵向自主駕駛汽車的超低延時應用

對象檢測與分割

對象檢測與分割

Vitis AI 具有強大的可擴展性和自適應性,可適用於許多低端到高端的 ADAS 现金网博e百 ,提供業界領先的性能,支持流行的 AI 算法,用於前端 ADAS 中的對象檢測、車道檢測和分段以及車內或環繞聲查看係統。

百家乐群 >


使城市更智能、更安全

視頻分析

城市越來越多地在邊緣點和雲端采用基於智能的係統。每天生成的海量數據需要強大的端到端 AI 分析係統,以便快速檢測和處理對象、流量和麵部行為。這為從邊緣到雲的每個框架增加了寶貴的見解。

詳細了解AMD 機器和計算機視覺>

視頻分析

利用人工智能的強大力量以提升健康

加速 COVID-19 圖像檢測

影像、斷和臨床設備中的 AI

Vitis AI 提供強大的工具和 IP,以發現和識別醫學圖像數據中的隱藏模式,幫助抗擊疾病並改善健康狀況。

詳細了解AMD 醫療保健 AI>


本地及數據中心中的 AI

數據中心加速

隨著互聯網應用的爆炸式增長,基於 AI 的複雜型现金网博e百 和服務(例如圖像和視頻處理、實時廣播、推薦引擎和自然語言處理器)越來越多,這對數據中心加速平台上的處理能力提出了更高的要求。Vitis AI 在 AMD Alveo 卡和客戶平台上以更高的吞吐量和效率提供了更高的 AI 推斷性能,滿足了用戶在數據中心和雲快速發展的 AI 的期望。

詳細了解百家乐投注技巧 >
人工智能優化器方框圖
視頻
開始設計