文章作者:武卓
新年里準備好打開 OpenVINO? 的最新長期支持(LTS)版本了嗎?無論你身處 AI 編程之旅的何處,如果你想快速輕松地開發(fā)或?qū)W習如何開發(fā)世界級的 AI 應用程序,并將深度學習推理工作負載從邊緣部署到云端,你都會想了解這個 AI 推理工具套件的最新更新!
01、LTS 版本和其它版本的區(qū)別是什么?
在軟件行業(yè)中,LTS 版本的重點是擴展或整合同一產(chǎn)品的先前版本中已經(jīng)引入的功能,并保證對這些功能的長期支持。從正式發(fā)布之日起,它為 AI 開發(fā)者提供了一年的 Bug 修復和兩年的安全補丁。
盡管為這種穩(wěn)定性和壽命付出的代價是,此類版本在其整個生命周期內(nèi)沒有額外的功能,但好消息是,OpenVINO? 今年引入的所有新功能都將包含在 2022.3 LTS 版本中。這些功能包括動態(tài)輸入、自動批處理、性能優(yōu)先、AUTO 插件以及對英特爾新的獨立顯卡(英特爾??銳炫? 和 Flex 系列)以及第6代至第13代英特爾??酷睿? 處理器的支持。
LTS 版本還包括新的 API 2.0,它于今年早些時候在 OpenVINO 2022.1 中引入,旨在使 AI 開發(fā)者更容易采用和維護代碼。有關 API 2.0 以及如何轉(zhuǎn)換的更多信息,請參見下方鏈接:
https://docs.openvino.ai/latest/openvino_2_0_transition_guide.html
02、OpenVINO? 2022.3 LTS 中有哪些新特性?
除了集成、穩(wěn)定且經(jīng)過良好測試的 2022 工具套件更新版本外,OpenVINO 2022.3 LTS 還支持更多的深度學習模型和設備。
AI 開發(fā)者將發(fā)現(xiàn)更廣泛的對于基于 transformer 的自然語言處理(NLP)模型的支持,如 GPT 和 OpenAI Whisper,以及其它模型的支持,如 Stable diffusion(圖1);改進了可移植性和性能提升;與 Hugging Face Optimum 集成;加入了新 Jupyter notebook 示例教程,如 YOLOv7、樣式轉(zhuǎn)換(圖2)和 3D 點云分割(圖3)的;以及更多。
圖1. Stable diffusion 基于文本提示生成復雜的藝術圖像。
例如,蝴蝶部分在雪山上。
圖2. 給定圖片運行樣式轉(zhuǎn)換
圖3. 使用 OpenVINO? 以消耗點云數(shù)據(jù)并執(zhí)行推理 3D 分割可視化
03、這個版本提供哪些硬件支持?
在硬件方面,簡而言之,OpenVINO 2022.3 LTS 在更多 GPU 上運行得更快、更智能。這里面完整的故事是關于所有受支持的 CPU 和 GPU 的性能提升,與自動設備發(fā)現(xiàn)和負載平衡、動態(tài)推理并行性以及添加到 AUTO 功能中的計算模式選擇攜手并進,使多個加速器(例如,多個英特爾??Data Center GPU Flex 系列)能夠同時使用,以最大化推理性能。
最重要的是,我們很高興與大家分享 OpenVINO 2022.3 LTS 正式完全支持英特爾? 獨立顯卡!
04、為什么支持英特爾? 獨立顯卡是大新聞?
這是 OpenVINO? 首次為在英特爾獨立顯卡上運行推理工作負載提供黃金級支持。憑借五年多在英特爾??圖形處理器(或“ iGPU ”)上優(yōu)化、測試和部署推理的經(jīng)驗,這只是漫長旅程中的最后一步,它成功地將 OpenVINO? 帶到了可廣泛適用于臺式機、筆記本電腦和服務器的許多價格合理的 GPU 上去運行 AI 推理。
05、OpenVINO? 2022.3 LTS 會破壞你現(xiàn)有的 AI 代碼嗎?
如果該代碼已編寫或已移植到新的 API 2.0,則不會。
如果您計劃在 2023年升級到 OpenVINO? 的未來版本以利用新功能,請記住,這些功能和優(yōu)化不會被移植到2022.3 LTS版本。對于生產(chǎn)部署,我們建議保持最新的OpenVINO 2022.3 LTS 版本,直到2023年的新功能在明年的LTS中穩(wěn)定下來。
06、什么時候升級以及最佳的升級方式是什么?
我們建議希望快速開發(fā)和部署高性能 AI 應用程序的每個人都使用 OpenVINO 2022.3 LTS。但是,無論出于何種原因,如果這是不可能的,并且您不想或不需要利用全年發(fā)布的所有優(yōu)秀的功能,則上一個 LTS 版本 OpenVINO 2021.4 LTS 將在 2024 年之前獲得安全補丁的支持。
在決定時,非常重要的一點是要記住,LTS 版本是我們在很長一段時間內(nèi)通過 dot 版本提供官方錯誤修復和安全補丁的唯一版本。
你可以通過以下命令升級到 OpenVINO 2022.3 LTS 版本:
pip install --upgrade openvino-dev
但請確保檢查所有依賴項,因為升級可能會更新 OpenVINO? 以外的其他軟件包。如果您希望安裝 C/C++API,請?zhí)崛☆A構建的 Docker 映像或從其他存儲庫下載,請訪問下載頁面以找到適合您需要的包:
https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html
如果您正在查找模型服務說明,請查看以下最新文檔:
https://docs.openvino.ai/latest/ovms_what_is_openvino_model_server.html