甚麼是邊緣人工智能？

邊緣人工智能（有時稱為「邊緣AI」）指的是在本地裝置（感應器、攝影機、智能手機、工業閘道器等）上運行人工智能和機器學習模型，而非在遠端數據中心。換句話說，網絡的「邊緣」— 即數據產生的地方 — 負責運算。這讓裝置能即時分析收集的數據，而不需不斷將原始數據傳送到雲端。

邊緣人工智能實現了無需依賴中央伺服器的即時本地處理。例如，配備邊緣AI的攝影機能即時偵測和分類物件，提供即時反饋。透過本地處理數據，邊緣AI即使在網絡連接不穩或無網絡時仍能運作。

— IBM 研究

總結來說，邊緣人工智能將運算更接近數據來源 — 在裝置或附近節點部署智能，加快反應速度並減少將所有數據傳送至雲端的需求。

邊緣AI與雲端AI：主要差異

與傳統的雲端AI（將所有數據傳送至集中伺服器）不同，邊緣AI將運算分散到現場硬件。下圖展示了簡單的邊緣運算模型：終端裝置（底層）將數據傳送至邊緣伺服器或閘道器（中層），而非僅傳送至遙遠的雲端（頂層）。

邊緣AI與雲端AI架構比較

在此架構中，AI推理可在裝置或本地邊緣節點進行，大幅減少通訊延遲。

邊緣AI的優點

邊緣AI為用戶和組織帶來多項實際優勢：

邊緣AI實施的主要優點

邊緣AI將高效能運算能力帶到邊緣，實現即時分析和提升效率。

— Red Hat 與 IBM 聯合報告

邊緣AI的挑戰

儘管有優勢，邊緣AI仍面臨重大挑戰：

邊緣AI實施的主要挑戰

邊緣AI的應用案例

邊緣AI已在多個行業實現實際影響：

邊緣AI在各行業的實際應用

促進技術與趨勢

邊緣AI的增長得益於硬件和軟件的雙重進步：

推動邊緣AI發展的關鍵技術

這些技術持續推動邊緣AI的可能性，共同促成「AI推理時代」 — 將智能更接近用戶與感應器。

結論

邊緣AI透過將運算移至數據源，改變了我們使用人工智能的方式。它與雲端AI互補，在本地裝置上提供更快、更高效及更私密的分析。

此方法解決了雲端架構固有的即時性和頻寬挑戰。實際上，邊緣AI驅動了從智能感應器、工廠到無人機和自動駕駛車等多種現代技術，實現現場智能。

隨著物聯網裝置普及和網絡改善，邊緣AI將持續成長。硬件（強大微晶片、TinyML）和技術（聯邦學習、模型優化）進步使AI無處不在成為可能。