後疫情时代的2022年，又再度推动着人们迈向更智能科技的生活模式。基於隐私问题、通讯安全及频?效率等考量，因而孕育了在边缘装置上进行AI运算的需求。也就是近日的热门话题之一边缘AI。

当硬体设计同时要加入AI运算时，设计的模式更加重视软硬整合的需求，尤其若是在边缘装置中要进行大规模的模型训练及处理，而这就涉及到大量的运算，例如开发视觉型物件侦测时，就需要透过神经网路推断模型来处理多步骤流程。

这样的情况下，一个实用的高速推断功能，它必须兼具灵活性、效能和节能这三个条件，才能扮演好边缘AI运算的角色。其中目前市面提供的解决方案之中以??eFPGA有机会异军突起，颠覆传统设计的极限。

eFPGA设计新思维让灵活性更上一层楼

Embedded FPGA(简称eFPGA)，在边缘运算的优势是它的IP核心可以内嵌在订制的SoC或ASIC上，此外它能客制化所需的逻辑、DSP和储存器数量，也可以客制化调控尺寸大小及I/O端囗数量。它的灵活性摆脱了传统FPGA需要全定制电路设计的??缚，也让边缘AI运算需求保有极隹的弹性。目前笔者所了解到有提供eFPGA服务的厂商共有八家(如图一)，其中Flex Logix公司是唯一一家纯硬体eFPGA的公司，可说是专注在edge运算的专家。他们独特的技术据说可以让工作负载的速度提升至30～100倍。

图一 : 提供eFPGA服务的厂商共有八家，Flex Logix公司是唯一一家纯硬体eFPGA的公司。

「机器学习是一种非常不同的软体开发方法，与我们大多数人习惯於编写C语言、Python等等是不一样的方式。它着重的是在这些模型框架中的数据和训练。因此，软体方面也已有所改变以支持这个需求。」Flex Logix资深产品管理总监Sam Fuller表示。单靠处理器来进行运算虽然可行，但在边缘装置中需要因应环境及情境的使用而有尺寸及频?流量的限制，有效进行资料推断处理的效率及节能是一大挑战。

Sam继续说道：「我们实际上提供了另一种新模式，将执行、推理执行与开发环境分开。当我们开发这些模型并在上面训练它们的系统。与我们实际部署的系统是不同的，因为它们在最隹化点方面完全迥异的。所以这让我们可以构建一个非常高效且极具成本效益的部署平台，因为不需要在同一系统上进行训练和开发。 这是我们产业一个重要的全新概念，但我认为人们理解这一点是绝对重要的。」

Edge AI应用广泛 定制型小尺寸低功耗晶片吃香

而谈到eFPGA与GPU及TPU的差异，Sam表示：「大部份 GPU在进行应用推断工作负载的处理时是32 位浮点为主，而大多数边缘AI 的推断工作都是 8 位整数运算类型。所以数据集是不同的设置且操作类型不同。」因此，当需要将特定设备用於边缘 AI 推断时，使用专用定制型且小尺寸及低功耗的晶片，其性价比会更加理想。

根据Sam的分享，Edge AI目前主要应用以工业领域最多，尤其是影像相关的需求为主。另外近年越受重视的自驾车，举凡一般汽车、货车或堆高机等等的应用也有大量成长。而在城市的交通路囗安全管理系统、农业区域性精确施肥需求及零售业环境等都已有不少正在进行中的应用。

Flex Logix IP业务、行销及解决方案架构??总裁Andy Jaros表示：「我们看到很多客户开始采用 eFPGA，尤其是开发晶片的光罩成本越来越高，而 eFPGA让晶片设计师可以灵活地在任何设计周期中进行修改，因此这是一种节省数百万美元的方法。」

图三 : Flex Logix IP业务、行销及解决方案架构??总裁Andy Jaros。