边缘计算新兴市场
人工智能芯片市场第一个得到关注的是云端服务器市场，nvidia的gpu以其强劲的算力掌握了大部分市场。随着人工智能的铺开，边缘计算(edge computing)的概念也得到了越来越多的认可。
边缘计算相对于云计算有几点优势，首先是延迟较小，在云端和终端通常有几十毫秒到几百毫秒不等的网络延迟，对于工业应用等对延迟有高要求的应用来说云端部署人工智能无法满足其对于延迟的需求;其次是数据隐私，有些应用不希望把数据传输到云端，一方面担心云端数据被云运营商看到，另一方面担心数据传输过程中被黑客劫持;最后是可靠性，如果把人工智能部署在云端那么一旦网络断了在终端的人工智能程序就无法工作了，这对于要求高可靠性的应用来说难以满足要求，但是如果把人工智能部署在边缘就没有这个问题。
边缘人工智能计算中其实还包含了多个层次，一种是终端设备(如手机)上的人工智能计算，这样的规划把人工智能计算直接放到终端设备上，可以实现最低的延迟。然而，由于终端设备的电池容量有限或者对于散热容忍度较低，因此在终端设备上做人工智能计算对于ai芯片的能效比提出了极高的要求，同时这样也并非唯一的边缘计算形态。
除了终端设备上的直接做计算之外，还可以把终端的数据放到离终端比较近的本地服务器去计算。例如，对于工业应用这样的对于稳定性和延迟有要求但是又可以做集群化计算的应用，除了把计算直接放到终端设备之外另一种方法就是就近设立边缘服务器让计算放到边缘服务器上去做然后快速返回给终端设备。边缘服务器对于芯片功耗的要求相比在终端设备上直接计算就会宽松许多，因此非常适合于这种可以集群化计算的应用。
边缘计算的两种市场目前都已经在起飞。而相关ai芯片也得到了许多关注。标志性事件是华为的两次芯片发布会。去年秋天发布的麒麟970芯片附带npu，可以说是人工智能部署在手机的一次重要尝试。今年秋天又发布了ascend系列芯片，其中ascend 310芯片也是针对边缘服务器市场并且华为已经开发了基于ascend 310的边缘计算服务器准备部署在自动驾驶领域。因此我们可以预计在未来无论是相关应用还是相关芯片都将有更多公司大手笔投入，从而推动ai进一步发展。
边缘服务器的芯片形态与竞争格局
边缘服务器的市场现在来看将是人工智能最早落地的应用之一(甚至比手机里的人工智能还要早且成熟)，因为目前中国的智能摄像头产品已经在安防、人脸识别等领域真正落地，而边缘服务器是很适合智能摄像头的产品形态，一方面在不少此类应用中对于可靠性有很强的需求，因此部署在边缘端的人工智能更适合;另一方面智能摄像头的计算可以集群化操作，因此一个边缘服务器处理多路智能摄像头的形式是非常经济的方式。除了智能摄像头之外，无人驾驶也是边缘服务器的一个例子，因为在无人车里面需要做传感器融合做大量计算，相当于在无人车上部署了一个边缘服务器。
边缘服务器市场通常对于通用性有一定需求，因此比较合适的方案是处理器加上通用型深度学习加速芯片，而深度学习加速芯片最常见的形式是以pcie加速卡的形式插到主板上，并与主处理器协同工作。值得注意的是，由于边缘服务器对于人工智能算法精度有一定要求，因此往往使用的是类似半精度浮点数的运算方式，很多边缘终端芯片上常见的int-4甚至int-2等激进的低精度整数运算由于损失精度过多因此在边缘服务器不太适合。
我们认为边缘服务器市场尚属于新兴市场，加入战场的公司并不多，目前仅有nvidia，华为，比特大陆等， 而且不同的公司可以主打不同的细分市场，因此市场竞争远未饱和。我们不妨来分析一下nvidia，华为和比特大陆三家公司的竞争格局。nvidia的产品是xavier芯片，峰值算力30tops，功耗30w，主要针对的是自动驾驶市场，因此芯片上还集成了双目视觉、光流等，模组售价2499美元，显然是针对高端自动驾驶市场，而对于智能摄像头等对于部署成本有要求的场合并不合适。
华为的ascend 310定位中高端，其8w/8tflops的性能下可覆盖智能摄像头市场，上可进击自动驾驶市场(华为已经与奥迪合作，发布了基于ascend 310芯片的自动驾驶边缘服务器mdc600)。而比特大陆则是主打性价比路线，bm1682自带视频解码和后处理操作且集成了cpu，因此客户需要加速智能机器视觉相关应用时理论上只需要bm1682即可，无需再去购入额外的cpu，这也降低了成本。
目前在中国市场，最主要的市场还是安防等应用的智能摄像头，因此产品定位决定了主要是华为和比特大陆之间的竞争，那么比特大陆和华为之间的竞争格局会如何呢?
我们认为，首先这个市场很大，华为和比特大陆的主打方向也不相同(华为主打性能而比特大陆走性价比路线)，因此并不存在势不两立的激烈竞争。另一方面，其实华为和比特大陆的共同竞争对手是海康威视这样的智能摄像头系统厂商，一旦海康威视也开始自研芯片且在自己的安全摄像头系统中以各种方式推广自研边缘服务器，那么华为和比特大 陆的压力将会很大。不过我们预计到那个时候智能摄像头以外的市场也会变得成熟，从而给华为和比特大陆等芯片公司提供新的机会，而不用被迫在智能摄像头领域与巨头系统厂商竞争。
边缘终端市场的芯片形态与竞争格局
边缘终端市场是指直接在终端设备上做计算的ai芯片，对于功耗和能效比有很强的要求。目前来看，边缘终端市场有两种形态的芯片产品，一种是针对特定应用的soc，一种是通用加速器做独立芯片。soc面向专用市场，在芯片中深度学习加速计算事实上只是一小部分，而其他大部分芯片面积则交给了主控处理器、视频解码等等模块。soc集成度高，一般的技术路线是用新的soc代替原有的不支持深度学习加速的soc做更新换代。
一个典型的例子就是华为麒麟系列soc加入寒武纪的npu，就属于soc自己的更新换代。专注于ai芯片的厂商进入soc市场的策略往往是提供ip授权，以发挥自己的强项(如寒武纪给华为提供npu ip)。对于soc往往针对的是一个特定市场，因为其中的模块都是针对该应用而设计，如果用在其他应用中则显得浪费，例如麒麟soc最适合的场景是手机，其中包含的gpu、isp、modem等都是为了手机场景打造，如果是用在工业场景则这些模组都闲置了，因此也就引出了另一个终端通用型深度学习加速器芯片市场。该市场相对于soc市场来说允许较低的集成度，即可以在主控芯片之外再搭配额外的芯片以支持相应功能。
在终端soc市场，事实上竞争已经白热化，华为、高通等公司都纷纷推出专属的soc搭载 ai加速模组，而ai加速模组ip的提供商也有arm，cadence，ceva等传统ip提供商以及寒武纪这样的初创公司。不少传统soc芯片公司都纷纷在自家soc中加入自研或授权的人工智能模块。对于人工智能终端soc市场，我们的分析是该市场虽然最早得到关注但是很可能近几年还是被原来的soc公司占领市场，因为目前终端人工智能市场尚未真正落地收获真金白银，因此soc中加入人工智能还只是锦上添花之举。
在ip授权方面，cadence和arm入局意味着小公司面临巨大压力，因为ip市场存在一定的头部效应，且cadence和arm可以通过与其他的优势ip做捆绑销售来推销其人工智能ip，在人工智能并非最关键soc模组的市场现状下，小公司想要与cadence和arm等巨头竞争只能走差异化，例如超低功耗或模拟计算等路线。
终端通用深度学习加速器芯片市场的应用则刚起步，之前movidius推出的神经计算加速棒并未引起巨大反响。但是这并不代表这个市场不存在，而是还处于幼年期，需要培养，因此许多公司在这个市场布局主要一是培养开发者生态，另一方面也探索研究哪个市场最有潜力，预计在市场成熟之后再收缩战线，针对几个重要的应用推出相应的优化芯片，从而占领最合适的市场。因此，目前对于这个市场最合适的策略是推出开发板和插件式加速硬件(如usb加速棒)这样简单易用的产品，这样厂商和客户可以一起探索市场需求，决定最佳产品形态。 我们看到比特大陆就是在这个市场跟随movidius推出了bm1880芯片，并配套推出了开发板、芯片模组以及usb加速棒等多种硬件形态供客户挑选，我们相信在近期将会看到通用型终端人工智能加速器的更多应用。
未来发展预期
如之前的分析，我们预计在人工智能边缘计算会成为未来最重要的人工智能硬件市场之一。在边缘计算领域，边缘服务器芯片市场非常重要但是目前厂商不多，我们预期会有不少公司入局，包括从芯片领域提出超高性能的初创公司，以及海康威视这样的系统厂商开始自研芯片，而如华为、比特大陆等已经提前入场的公司也会继续加大投入。
在终端边缘计算市场，soc芯片(ai加速器ip)领域竞争已经非常激烈，未来恐怕会有一波洗牌的过程，最后只会剩下几家能在不同细分市场牢牢把握住客户的公司。在通用终端加速器芯片领域我们则可望看到更多应用出现，在未来几年内我们能看到的边缘终端加速器应用实际上将会很大程度上决定这个市场的具体规模。
最后，我们必须看到边缘计算等人工智能芯片应用目前最大的市场其实在中国。这是因为中国的人工智能落地情况远好于美国。在政府的支持下，旷视、商汤、依图等初创企业纷纷推出优秀的产品并在市场上站住了脚跟，这一方面加速了基于人工智能的应用成熟，另一方面也给人工智能芯片带来了市场，从而为人工智能的完整产业链的成熟带来了机会。我们可以肯定地说，人工智能芯片的未来还得要看中国!