阿里巴巴集团CTO兼阿里云智能总裁张建锋，今日在杭州举办的第10届云栖技术大会上，发布了阿里巴巴第一款自行研发的AI推论晶片「含光800」。根据阿里巴巴的资料，该晶片每秒可以处理7万8千多张图片，是目前全球性能最高的AI推论晶片。

阿里巴巴第一款自行研发的AI推论晶片「含光800」

「含光800」是由阿里巴巴旗下的达摩院半导体晶片公司平头哥所研发，该公司先前已推出了采RISC-V架构的晶片「玄铁910」，以及一个SoC单晶片平台「无剑」。

依据阿里巴巴的介绍，含光其实是一款神经网路处理晶片（Neural Processor Unit，NPU），至於他们所谓的AI推论晶片，则是用加速AI演算法的执行和训练，而在阿里巴巴的应用情境，则是专对处理图片的神经网路进行加速。

由於AI运算可分成两个阶段，一个是训练阶段，二是推论阶段。前者是透过处理大量的资料和运算，取得一个AI运算模型，多运用CPU和GPU进行；後者则是一个程式的开发阶段，而推论阶段其实就是程式的执行阶段。因此所谓的推论晶片，就是加速程式执行的晶片。

张建锋在讲演上指出，含光800以ResNet-50测试，最高可以达78563IPS（Images per second），等於每秒可处理7万8千多张图片，功耗比可提供500IPS/W。

张建锋也以旗下的购物图片搜索App「拍立淘」为例，拍立淘每天会产生10亿张图片，过去需花费1小时来处理识别和分类。改用含光800後，只要5分钟就能完成相同的工作。

至於为何取名含光，阿里巴巴的解释是，「含光」以中国传说的上古三大神剑之一来命名，取它「含而不露，光而不耀」的含意。