Edge AI 是什麼？Edge AI 電源供應器必備五大條件！

2024-07-29

前言

在邊緣運算與深度學習技術成熟下，Edge AI應用範圍將更為廣泛，各行各業都能夠透過Edge AI的導入提升工作自動化、生產或銷售流程優化的應用，就連我們日常所使用的筆電或手機在未來也將導入Edge AI相關功能！本文將詳細介紹Edge AI及其核心技術應用，並為讀者說明Edge AI power的必要條件與重要性。

Edge AI 是什麼？與傳統人工智慧（AI）有什麼差異？

Edge AI又被稱為是「邊緣AI」，目前被廣泛應用在工業、醫療、智慧生活、綠能等相關領域，隨著AI技術不斷演進，未來也將逐步導入我們日常使用的各式消費電子產品當中。我們目前所熟知的傳統AI應用大多是透過資料中心將運算力強大的伺服器集中，並讓需要的終端使用者透過伺服器連網的方式使用其運算能力與存取模型。然而這樣的方式可能面臨資料集中部署的隱私問題，以及終端裝置在連網時導致的延遲問題等。

Edge AI強調能夠讓使用者不須透過連結網路，就能夠使用Edge端的運算能力及AI模型，提供比傳統中央化的AI系統更加靈活的應用，以及在終端裝置提供更及時的反應能力。Edge AI透過在終端裝置本身進行數據處理和分析，也因此個別裝置的性能要求變得更加重要，搭載在裝置端的Edge AI power也將帶動傳統Edge端裝置的升級需求，不論在能源效率、穩定及可靠性、裝置硬體輕量化設計都有極高的門檻。

Edge AI 的核心技術有哪些？

由於Edge AI需要將AI模型直接導入小型的終端裝置中，因此當前AI技術所需的所有訓練過程，包括ML、深度學習，以及後續將相關模型與訓練資料壓縮導入有限的終端存儲系統能力等。實際導入終端裝置後還需連結相關硬體應用，並從終端裝置中即時取得所需的資料，這時候就需搭載合適的Edge AI power確保裝置應用不被中斷。

機器學習（Machine Learning）

機器學習是Edge AI的基礎，它使得裝置能夠根據收集到的數據進行學習和預測。例如應用在零售消費領域，零售商店可以透過在商店中導入Edge AI裝置，及時了解顧客喜好，投放客製化廣告。擁有可靠的即時顧客數據是訓練Edge AI的基礎，透過在本地端及時收集資料，保留在邊緣裝置中也能夠降低資料外洩的風險。

深度學習（Deep Learning）

在Edge AI中，深度學習透過模擬人腦中思考連結的方式，創造對影像的理解。當AI每次接觸新影像時稍微修改每層之間的連結，邊緣裝置就可以學會可靠地識別需要判斷的事物。傳統的深度學習能夠快速有效地分析目標圖像，當應用在工廠自動化領域可以檢測可能出現瑕疵的產品，但大多數工廠自動化應用程式的複雜性要低得多，此時結合邊緣學習裝置就能夠以較低成本及高效率訓練相關Edge AI設備。邊緣AI運算能將計算過程更靠近使用者，連接到LLM（大型語言模型），提供實時洞察、降低成本、增強隱私保護和高可用性等好處。

模型壓縮（Model Compression）

Edge設備通常具有有限的計算資源和存儲容量，因此需要對模型進行壓縮，模型壓縮技術包括量化、剪枝、量化感知訓練等方法。模型壓縮可以減少模型的計算量，使得它們可以在計算能力有限的嵌入式設備上運行。透過減少模型的參數量和計算量，降低模型在邊緣設備上的執行時間，提高推理速度，例如在手機等智能設備上執行的視覺辨識應用，壓縮模型可以實現更快的實時反應，提升用戶體驗；另外模型壓縮也可以降低模型的能源消耗，更小的模型通常需要較少的計算資源和能量。

硬體加速器

在邊緣設備上執行高效的深度學習模型，需要使用專門的硬體加速器，為了在邊緣裝置上執行高效的深度學習，需要優化的模型架構及硬體加速器，充分利用有限的計算和存儲資源如：

圖形處理單元（GPU）能夠優化深度學習算法的硬體加速器，在邊緣設備上快速執行矩陣運算等深度學習操作
張量處理單元（TPU）專門設計用於高效執行深度學習推理的硬體，具有優異的能源效率和性能
視覺處理單元（VPU）對視覺處理應用優化的硬體加速器，通常用於圖像處理和機器視覺任務

感測技術與資料處理

Edge AI需要從感測器或嵌入式設備中收集大量數據，例如應用在自動駕駛、工業自動化等領域都需要高精度的感測技術，以避免裝置運作過程產生安全性問題。當未來要將邊緣運算裝置導入至離線的資料系統、或是機器人等設備時，就需要在邊緣裝置實施ML和深度學習模型，將推理功能部署到嵌入式系統中。

Edge AI的應用

目前Edge AI的應用方向相當廣泛，以下針對現在及未來可能的應用方向個別說明：

智慧家庭：家用空調系統、各式電力設備其實都可以導入Edge AI應用，例如在家用電力設備或小型儲能裝置裝上感應器及Edge AI，能夠即時監測家庭能源使用狀況，使家庭了解各項設備使用狀況及提升安全性。
醫療保健：醫療設備結合Edge AI應用可以使遠端醫療的準確性、即時性及便利性。例如以色列醫療公司Tyto care用於偵測異常呼吸的AI演算法就在去年通過FDA核准，將其AI模型結合終端邊緣裝置設備，潛在的風險族群就能夠更安心地進行遠端診療。另外在健康追蹤設備中也可以結合電子手錶、手機等應用，將小型的穿戴型設備導入Edge AI模型，裝置就可以直接分析即時的健康數據變化，提供最即時的建議。
工程和製造：目前各式工業場景都已經導入Edge AI應用，包括機械手臂、器械生產預測工具等。將Edge AI導入既有設備中可以提前分析當前設備性能狀況，達到預先維護避免產能發生緊急狀況，還可以同時提升使用者的安全性。另外像汽車廠商的生產線上也會廣設Edge AI及相關Sensor，確保整車生產過程不會因為小零件的瑕疵導致安全問題。
安全和監控等領域：科技巨頭Amazon在智慧家庭中的安全應用就有直接推出Ring 智能門鈴系統，除了門鎖功能外還可以結合無人機設備，直接針對整個家庭社區做到全面性的安全監控。如果家中長輩發生意外或火災時，設備也能夠自主發出異常通知，使相關安全單位能夠第一時間提供協助。

H2- Edge AI power 的5大必備條件

為確保系統能夠在邊緣環境下可靠運行並滿足性能需求，Edge AI power 的重要性可以說是不言而喻，Edge AI power（電源供應器）有以下五大關鍵要素

Edge AI power 要點 1：穩定性與可靠性

Edge AI power需要提供穩定的電壓和電流，在不同工作負載下的穩定運行，並具有高可靠性，以防止系統因電源供應故障而停機。

Edge AI power 要點 2：節能和高效率

Edge AI power應該盡可能高效率，以減少能源浪費並延長電池壽命。

Edge AI power 要點 3：適應性

考慮到Edge AI應用中的工作負載可能會波動，電源供應器應具有適應性，能夠根據系統需求調整輸出電壓和電流。

Edge AI power 要點 4：小型化和輕量化

由於 Edge AI 系統通常部署在空間有限的設備上，Edge AI power 應具有小型和輕量化的特點。

Edge AI power 要點 5：符合 EMC

Edge AI power應符合電磁兼容性（EMC）標準，以減少電磁干擾，確保系統與其他設備的正常運行並符合相關規定。

全漢-Edge AI 電源供應器方案

全漢具有多年針對高性能電源供應器產品開發的豐富經驗，雖然電源供應器是高度成熟的產品，但在各種不同終端應用領域須同時兼顧成本、可靠性、穩定度、以及系統相容等問題。公司從Edge computing、Edge server在醫療、商用、工業等領域已有多項對應產品，且能夠針對客製化需求提供相應高瓦數的電源。以醫療領域來說，針對不同設備所需瓦數使用的power 公司都能夠提供。

工業部分隨著工廠自動化網4.0時代推進，傳統製造業在工廠自動化設備比例提升下可透過邊緣運算技術，結合傳感器、物聯網等相關設備對廠房進行即時監控。全漢能夠提供高可靠性、多樣化性能選擇的邊緣運算設備電源產品，使企業完成供應鏈管理升級與即時庫存管理等。