AI芯片和GPU是两个概念，GPU指的是通用处理器，具备图像渲染能力、视频编解码能力以及计算能力。GPU的ALU是FP32的。AI芯片算是GPU的一个子集，更多是属于ASIC芯片，即专用芯片，只能运行某些特定的算法，但由于已经把算法硬件化了，功耗会更低，效率会更高。但也因此失去了通用性，即如果想用之前的AI芯片去计算新的算子是实现不了的。AI芯片里面的ALU一般是Int8的，从硬件实现的角度来说做训练和推理的AI芯片并不难实现。与GPU的难度可以说是完全不在一个水平线。