请选择 进入手机版 | 继续访问电脑版
专注物联网产业服务
微信二维码
威腾网服务号
游客您好
第三方账号登陆
  • 点击联系客服

    在线时间:8:00-16:00

    客服电话

    17600611919

    电子邮件

    online@weiot.net
  • 威腾网服务号

    随时掌握企业动态

  • 扫描二维码

    关注威腾小程序

关于野生智能芯片,它真的是智能的吗?

发布时期:2020-1-8 13:12
阅读:2330

人工智能芯片智能吗?人工智能芯片这个词,很有神秘感,似乎这个芯片会十分智能。人工智能芯片,确切地应该被称为“实现智能算法的芯片”,而不是“具有智能的芯片”。事实上,如果真的去看芯片的“智能性”和复杂性 ...

野生智能芯片智能吗?


野生智能芯片这个词,很有奥秘感,似乎这个芯片会非常智能。野生智能芯片,确切地应当被称为“实现智能算法的芯片”,而不是“具有智能的芯片”。究竟上,假如真的去看芯片的“智能性”和复杂性,那这些野生智能芯片大要比不上CPU。由于野生智能芯片可以运转的算法是比力单一的(如TPU的焦点是矩阵乘法)、控制流是比力简单的。


野生智能芯片为什么能更“快"--胜在专注


首先,“快”这个词在计较机科学里可以有两个寄义,一个是说低提早(low latency),一个是说高吞吐量(high throughput)。我们说“更快”,能够指的是完成一项使命提早更低,大概是单元时候内可以完成更多的使命。这两者不是相互包含的,可是是相关的。其关联被Little's Law所界说。而野生智能芯片的“快”,也可以是提早低和/或吞吐量高。


然后,野生智能芯片为什么快?一句话便可以回答:同一个算法,用接近硬件的编程说话(如C)实现起来凡是比Java等快,而间接用硬件实现则应当更快。下面具体味商提早和吞吐量。


提早低:很多芯片做机械进修算法的推理(inference)比用CPU大概GPU更快。这经过公用电路、片上存储等实现。公用电路消除了CPU的指令加载、解码等时候,片上存储极大削减了数据(包括样本数据和模子数据)从内存加载的时候。吞吐高:当大师说“GPU比CPU快”,指的是其吞吐量。究竟上GPU运转的时钟频次比CPU低很多,提早也就更高。GPU吞吐量高,是经过移除CPU上大量的复杂控制逻辑(分支猜测等)和具有分歧性的缓存(cache),取代之以大量运算单元和不具有分歧性的片上存储(用于寄存器和同享内存)来实现的。TPU吞吐量更高,由于它可以进一步移除GPU必须的图形计较单元(光栅raster大概光芒跟踪ray tracing)、双精度(double precision)单元、单精度(single


precision)单元等,取而代之以大量的半精度(FP16)和1/4精度(INT8)单元。


今后可以看出,从提早和吞吐两个角度来看,公用芯片都是胜在专注--能做品种更少的工作,可是做得更提早低,大概单元时候内完成的使命更多。


公用芯片的弱点也很明显,一次性投入大,编程难,产物化耗时长,风险大(算法改变了怎样办?)。


摩尔定律和Dennard scaling


摩尔定律说,每18个月,晶体管的面积酿成一半,即不异面积芯片上晶体管数目翻倍。这从几个方面能让计较更“快”:


晶体管变小,则其门电路变化状态的速度更快,CPU单核的频次可以更高(lantency)。这一点由下面将先容的Dennard scaling定量描写。晶体管变多,则可以加入更复杂的控制逻辑(分支猜测等)缓和存,让单线程的履行更快(latency)。晶体管变多,可以增加并行的单元,让吞吐量增大(throughput)。


Dennard scaling说,晶体管变小今后,所需电压和电流同比例变小,可以大幅度增加频次而保持总功率稳定。这样CPU单核的频次可以变得更高。


现在这两个定律已经都部分生效。从摩尔定律来说,支流芯片晶体管的feature size今朝在7-14nm,5nm和3nm能够可以到达可是会进程缓慢,而且工艺及其复杂和造价高贵(近期GLOBALFOUNDRIES放弃7nm的生产即是证实)。再往后,由于漏电酿成的发热,晶体管大要不能再继续缩小了。从Dennard scaling来说,由于漏电发热和晶体管保持工作需要的一个根基电压,芯片的频次也不能再继续增加。


这两个定律都生效今后,从某种意义上说,芯片成长的线路已经从做加法(更复杂的芯片、更多的功用,频次更高,更多核)成长到做减法(更专注某个/某类利用,用更简单的数字格式)了。今年图灵奖两位获得者讲的domAIn specific architecture,就是类似的思惟。别的,还可以堆叠大量的芯片,让其高速互联(经过公用的交换电路例如NVLink,而不是更慢的PCIe总线)来到达高性能。



路过

雷人

握手

鲜花

鸡蛋
本文暂无评论,快来抢沙发!

扫一扫关注官方微信号

一手信息资讯权掌握尽在威腾网

滚动新闻
Weiot(威腾网)是一家以原创内容、高端活动与全产业渠道为核心的垂直类物联网产业媒体。我们关注新兴创新的物联网领域,提供有价值的报道和服务,连接物联网创业者和各种渠道资源,助力物联网产业化升级。
15201069869
关注我们
  • 访问移动手机版
  • 官方微信公众号

© 2014-2020 Weiot.NET 威腾网 北京微物联信息技术有限公司 ( 京ICP备20000381号 )|网站地图