在资料统整与云端数据搜集时，边缘运算可以发挥很大的功用。与云端运算不同的是，边缘运算是位於最接近资料来源的小型计算中心，主要功能在於收集、储存、过滤、撷取、简单的运算，并将处理过的资料与云端系统进行有效率的交换，使系统变得更加即时、弹性且具有效率。

目前各大晶片厂商都在开发各自的AI边缘运算晶片，将AI运算从云端逐渐向终端转移，这也使得边缘运算的需求将会大增。

随着AI的发展越趋成熟，硬体晶片的品质提升不少，让过去只能作为「接收」功能的端囗也能用於协助运算，这将使AI运作更有效率，像是自动煞车系统、智慧音箱等，都是边缘运算下的产物。继云端（Cloud）与物联网（IoT）兴起後，物联网与云端间的中继站，如物联网闸道器（IoT Gateway），也从过往的单纯资料汇整、转传工作外，被赋予更多的任务与期许，这些应用都促使了边缘运算（Edge Computing）概念的兴起。

2017年是AI元年，各公司都大力布局AI技术。2019年AI的应用需求更是明确，需多原先由云端运算的产品都纷纷转向终端运算处理。连网设备现在为了解决网路频宽有限、通讯延迟、缺乏网路覆盖、资料隐私与机密等需求，对终端AI运算能力的需求多过於云端运算。除了演算法和大资料，作为AI的三大要素之一，运算能力也变得非常重要。目前各大晶片厂商都在开发各自的AI边缘运算晶片，将AI运算从云端逐渐向终端转移，这也使得边缘运算的需求将会大增。

工研院综合预测边缘端与装置端AI晶片市场规模，2017年为793百万美元，2025年为51,623百万美元，年复合成长率高达68.5%。估计2025年，前三大的Edge AI产品分别为：智慧手机、智慧音箱、抬头显示设备（AR/VR/MR…）。而成长最快速的产品，则是消费型与企业用机器人及安全监控摄影机。

在特定领域的专用人工智慧系统，由於应用背景需求明确、深厚之领域知识、模型建立计算简单可行，在单项测试之智慧水准已可超越人类智慧，目前在许多领域已取得具体成效。技术挑战则在於：发展低能耗、高准确率的认知计算，包括新型运算架构电路设计、演算法等。未来人工智慧晶片是特定的演算法加速器，来加速包括卷积神经网路（Convolution Neural Network）、递??神经网路（Recursive Neural Network）在内的各种神经网路演算法，专用晶片的最大优势在於其成本和功耗降低，可大幅提升人工智慧演算法运行效率。