Edge AI 是什麼？Edge AI 电源供应器必备五大条件！

2024-07-29

前言

在边缘运算与深度学习技术成熟下，Edge AI应用范围将更為广泛，各行各业都能够透过Edge AI的导入提升工作自动化、生产或销售流程优化的应用，就连我们日常所使用的笔电或手机在未来也将导入Edge AI相关功能！本文将详细介绍Edge AI及其核心技术应用，并為读者说明Edge AI power的必要条件与重要性。

Edge AI 是什麼？与传统人工智慧（AI）有什麼差异？

Edge AI又被称為是「边缘AI」，目前被广泛应用在工业、医疗、智慧生活、绿能等相关领域，随着AI技术不断演进，未来也将逐步导入我们日常使用的各式消费电子产品当中。我们目前所熟知的传统AI应用大多是透过资料中心将运算力强大的伺服器集中，并让需要的终端使用者透过伺服器连网的方式使用其运算能力与存取模型。然而这样的方式可能面临资料集中部署的隐私问题，以及终端装置在连网时导致的延迟问题等。

Edge AI强调能够让使用者不须透过连结网路，就能够使用Edge端的运算能力及AI模型，提供比传统中央化的AI系统更加灵活的应用，以及在终端装置提供更及时的反应能力。Edge AI透过在终端装置本身进行数据处理和分析，也因此个别装置的性能要求变得更加重要，搭载在装置端的Edge AI power也将带动传统Edge端装置的升级需求，不论在能源效率、稳定及可靠性、装置硬体轻量化设计都有极高的门槛。

Edge AI 的核心技术有哪些？

由於Edge AI需要将AI模型直接导入小型的终端装置中，因此当前AI技术所需的所有训练过程，包括ML、深度学习，以及后续将相关模型与训练资料压缩导入有限的终端存储系统能力等。实际导入终端装置后还需连结相关硬体应用，并从终端装置中即时取得所需的资料，这时候就需搭载合适的Edge AI power确保装置应用不被中断。

机器学习（Machine Learning）

机器学习是Edge AI的基础，它使得装置能够根据收集到的数据进行学习和预测。例如应用在零售消费领域，零售商店可以透过在商店中导入Edge AI装置，及时了解顾客喜好，投放客製化广告。拥有可靠的即时顾客数据是训练Edge AI的基础，透过在本地端及时收集资料，保留在边缘装置中也能够降低资料外洩的风险。

深度学习（Deep Learning）

在Edge AI中，深度学习透过模拟人脑中思考连结的方式，创造对影像的理解。当AI每次接触新影像时稍微修改每层之间的连结，边缘装置就可以学会可靠地识别需要判断的事物。传统的深度学习能够快速有效地分析目标图像，当应用在工厂自动化领域可以检测可能出现瑕疵的产品，但大多数工厂自动化应用程式的复杂性要低得多，此时结合边缘学习装置就能够以较低成本及高效率训练相关Edge AI设备。边缘AI运算能将计算过程更靠近使用者，连接到LLM（大型语言模型），提供实时洞察、降低成本、增强隐私保护和高可用性等好处。

模型压缩（Model Compression）

Edge设备通常具有有限的计算资源和存储容量，因此需要对模型进行压缩，模型压缩技术包括量化、剪枝、量化感知训练等方法。模型压缩可以减少模型的计算量，使得它们可以在计算能力有限的嵌入式设备上运行。透过减少模型的参数量和计算量，降低模型在边缘设备上的执行时间，提高推理速度，例如在手机等智能设备上执行的视觉辨识应用，压缩模型可以实现更快的实时反应，提升用户体验；另外模型压缩也可以降低模型的能源消耗，更小的模型通常需要较少的计算资源和能量。

硬体加速器

在边缘设备上执行高效的深度学习模型，需要使用专门的硬体加速器，為了在边缘装置上执行高效的深度学习，需要优化的模型架构及硬体加速器，充分利用有限的计算和存储资源如：

图形处理单元（GPU）能够优化深度学习算法的硬体加速器，在边缘设备上快速执行矩阵运算等深度学习操作
张量处理单元（TPU）专门设计用於高效执行深度学习推理的硬体，具有优异的能源效率和性能
视觉处理单元（VPU）对视觉处理应用优化的硬体加速器，通常用於图像处理和机器视觉任务

感测技术与资料处理

Edge AI需要从感测器或嵌入式设备中收集大量数据，例如应用在自动驾驶、工业自动化等领域都需要高精度的感测技术，以避免装置运作过程产生安全性问题。当未来要将边缘运算装置导入至离线的资料系统、或是机器人等设备时，就需要在边缘装置实施ML和深度学习模型，将推理功能部署到嵌入式系统中。

Edge AI的应用

目前Edge AI的应用方向相当广泛，以下针对现在及未来可能的应用方向个别说明：

智慧家庭：家用空调系统、各式电力设备其实都可以导入Edge AI应用，例如在家用电力设备或小型储能装置装上感应器及Edge AI，能够即时监测家庭能源使用状况，使家庭了解各项设备使用状况及提升安全性。
医疗保健：医疗设备结合Edge AI应用可以使远端医疗的準确性、即时性及便利性。例如以色列医疗公司Tyto care用於侦测异常呼吸的AI演算法就在去年通过FDA核准，将其AI模型结合终端边缘装置设备，潜在的风险族群就能够更安心地进行远端诊疗。另外在健康追踪设备中也可以结合电子手錶、手机等应用，将小型的穿戴型设备导入Edge AI模型，装置就可以直接分析即时的健康数据变化，提供最即时的建议。
工程和製造：目前各式工业场景都已经导入Edge AI应用，包括机械手臂、器械生产预测工具等。将Edge AI导入既有设备中可以提前分析当前设备性能状况，达到预先维护避免产能发生紧急状况，还可以同时提升使用者的安全性。另外像汽车厂商的生产线上也会广设Edge AI及相关Sensor，确保整车生产过程不会因為小零件的瑕疵导致安全问题。
安全和监控等领域：科技巨头Amazon在智慧家庭中的安全应用就有直接推出Ring 智能门铃系统，除了门锁功能外还可以结合无人机设备，直接针对整个家庭社区做到全面性的安全监控。如果家中长辈发生意外或火灾时，设备也能够自主发出异常通知，使相关安全单位能够第一时间提供协助。

H2- Edge AI power 的5大必备条件

為确保系统能够在边缘环境下可靠运行并满足性能需求，Edge AI power 的重要性可以说是不言而喻，Edge AI power（电源供应器）有以下五大关键要素

Edge AI power 要点 1：稳定性与可靠性

Edge AI power需要提供稳定的电压和电流，在不同工作负载下的稳定运行，并具有高可靠性，以防止系统因电源供应故障而停机。

Edge AI power 要点 2：节能和高效率

Edge AI power应该尽可能高效率，以减少能源浪费并延长电池寿命。

Edge AI power 要点 3：适应性

考虑到Edge AI应用中的工作负载可能会波动，电源供应器应具有适应性，能够根据系统需求调整输出电压和电流。

Edge AI power 要点 4：小型化和轻量化

由於 Edge AI 系统通常部署在空间有限的设备上，Edge AI power 应具有小型和轻量化的特点。

Edge AI power 要点 5：符合 EMC

Edge AI power应符合电磁兼容性（EMC）标準，以减少电磁干扰，确保系统与其他设备的正常运行并符合相关规定。

全汉-Edge AI 电源供应器方案

全汉具有多年针对高性能电源供应器产品开发的丰富经验，虽然电源供应器是高度成熟的产品，但在各种不同终端应用领域须同时兼顾成本、可靠性、稳定度、以及系统相容等问题。公司从Edge computing、Edge server在医疗、商用、工业等领域已有多项对应产品，且能够针对客製化需求提供相应高瓦数的电源。以医疗领域来说，针对不同设备所需瓦数使用的power 公司都能够提供。

工业部分随着工厂自动化网4.0时代推进，传统製造业在工厂自动化设备比例提升下可透过边缘运算技术，结合传感器、物联网等相关设备对厂房进行即时监控。全汉能够提供高可靠性、多样化性能选择的边缘运算设备电源产品，使企业完成供应链管理升级与即时库存管理等。