建構在邊緣執行的 AI 應用程式或看似一項難以應付的工程。但透過如 Intel® OpenVINO™ 工具組 2022.1 般適當的開發工具與平台，開始、簡化您的工作，並部署實際生活解決方案其實很容易。
為了深入研究邊緣 AI 的作業及業務價值，我和 Intel 的網路與邊緣組中 OpenVINO 開發人員工具副總裁阿當．邦恩斯（Adam Burns）開展了對話。邦恩斯談到把新功能帶入 OpenVINO 2022.1，讓開發人員更輕鬆，可專注在建構他們的應用程式的策略。我們的對話涵蓋該從何著手，到如何解決 AI 開發人員的最大挑戰。
歸根究底，邊緣是產生作業資料的地方。它位於商店或是餐廳，在您試圖為購物者或消費者最佳化體驗的地方。在醫學影像中心，它位於拍攝 X 光的地方。或處於一家想要提高產能及製造效率的工廠。
然後您得看看 AI 如何與現有的應用程式結合。舉例來說，在工廠裡，您有在組裝線上執行部分作業的機器。您可以使用來自該應用程式的資料進行目視檢查，並確保商品品質。或者可以使用音和資料型機器學習，來監測電腦健康狀況並預防故障。在這個組合下，您可以將資料用於應用程式，再用它來增強系統正在執行的事項。
邊緣五花八門。您有不同的機器尺寸、成本和可靠度期望。因此，當我們思考有關邊緣 AI 的事時，我們也在考慮如何解決有多種應用程式、外型規格和顧客需求的問題。
我們首次推出 OpenVINO 時，許多的邊緣人工智慧應用程式將重點放在電腦視覺上。
從那時候起，我們就與數以千計的開發人員合作並聽取他們的意見。我們加進此版本的有三大內容。
最重要的是讓開發人員易於使用。全球有數百萬名開發人員使用諸如 PyTorch、TensorFlow 或 PaddlePaddle 等標準的人工智慧框架，而我們希望工具在使用上更方便。舉例來說，某人從這些框架中抽出一個標準模型，希望將其轉換，好在各種不同的平台上使用。我們已簡化並更新我們的 API，把它變得和這些框架非常相似，開發人員也感覺格外熟悉。
其次，我們在邊緣有一組廣泛的模型和應用程式。可以是音訊、自然語言處理（NLP），或是電腦視覺。OpenVINO 2022.1 中非常重視啟用這些使用案例，並真正提高橫跨這各式系統的效能。
第三是自動化。我們希望開發人員能在他們選擇的裝置或環境上專心打造應用程式。OpenVINO 2022.1 自動偵測您正使用哪類平台、哪種模型，並決定該系統的最佳設定，而不是需要大量參數來真正調節並獲得最佳效能。如此一來，即使沒有最佳化專業知識，開發人員也能在各種系統中輕鬆部署。
先以一個客戶例子說起，然後再來聊邊緣吧。今天，許多人都使用視訊會議平台。在此背後，那些平台在處理我們所說的內容，讓我們能夠在需要時提供隱藏字幕以提供清晰度和協助。那就是自然語言處理。
它們也進行噪音抑制。如果有人來我家工作，而我身後有一台高速風箱，視訊會議平台會盡量補捉我的聲音，把其他雜音降到最低。
我們在看待邊緣時，類似類型的工作負載至關重要。在餐廳自動點餐，在零售商店自動訂購，始終是一大重點。NLP 可用於處理會進入一間免下車餐廳的訂單，確保他們準確取得訂單，然後向顧客顯示。
音頻處理可在工廠用來衡量機器的健康狀況，尤其是在馬達和傳動裝置等方面。您可以在多種類型的設備上放置音訊訊號，並且可以偵測到表示故障或異常的某些音訊特徵。
因此，您會開始透過電腦視覺發現更多缺失；同時，您的音訊特徵正在偵測馬達的異常情況。那是一個標記，標示潛在修復或啟動某類修正行動。
其中一個主要問題是，許多圍繞 AI 和現有模型的研究都在雲端環境上建構，您擁有幾乎無限的計算。如今在邊緣，許多開發人員是在受限的環境中工作。
您如何讓應用程式與功能不再只是紙上談兵的書面研究，而是實際投入部署？我們正在做的諸多努力之一是讓它具備高效和經濟實惠的特點，以便在邊緣執行，讓您從部署中獲得的價值大於部署成本。OpenVINO 讓開發人員能夠利用部分最先進的 AI 應用程式，但以足以在邊緣上真正部署的效率利用。
請從 openvino.ai 開始著手。那裡詳列了入門指南，逐步說明模型最佳化、存取 Jupyter Notebook、不同類型的應用程式，以及代碼範本。還有，您當然可以免費下載 OpenVINO。
對於想要在託管環境中工作或想在不同類型的 Intel 系統中進行原型設計的人，我們有一個 IoT DevCloud。您可以在幾分鐘內登入並使用 OpenVINO 執行工作階段。無論是最佳化網路還是在資料集上執行特定類型的應用程式，那些筆記本和代碼範本的存取都相同，讓人可立即著手做事。人們可以存取大量不同的模型類型和應用程式，也能使用自己的樣本資料。
最後一項方法是我們的邊緣人工智慧認證計畫。它與教授邊緣 AI 的應用更息息相關，同時您會使用 OpenVINO 做為工具。
我認為這三處都是絕佳的起點，具體取決於您在開發過程中所處的位置。
在邊緣產生資料的應用程式何其多。而那些資料可透過結合人工智慧來促進節省成本、提高客戶體驗或改善運作效率。OpenVINO 就是從營運的角度考量已在邊緣運作的東西，並透過 AI 對其增強。
今天的許多 AI，尤其是雲端的，都部署在昂貴的加速器上。在很多案例中，這些解決方案不是會造成過熱，就是所費不貲。OpenVINO 透過調整這些 AI 工作負載和這些 AI 網路，在標準現成的 Intel CPU 上有效執行來解決那個問題，而那些 CPU 現時擁有強大的 AI 效能，而且遍佈全球的部署中，亦即無需購買額外的東西。這開啟了一系列嶄新的機會，幾年前您無法部署這些應用程式，因為它們的效率不夠高，或者成本效益不足。
我們正試圖透過 OpenVINO 將更多的開發人員帶到邊緣，確保在這些技術上盡可能地投資，我們認為這些技術在客戶體驗、節省成本、改良製造和獲得更多商品方面皆價值匪淺。
從這個角度來看，我們正嘗試使用 OpenVINO 解決兩件事。其中是使其經濟實惠，以便部署。然後透過開發人員的角度使其更易於使用，進而使人工智慧真正地普及化，讓更多開發人員得以參與，並建立和部署這些應用程式。
本文由 insight.tech 編輯副總監克莉絲汀．卡杜薩（Christina Cardoza）編輯。
