赠软件计划 最高待遇 欢迎谘询
QQ5825-5957

蓝冠官网:感知声称20-100倍人工智能的效率在边缘


 
蓝冠官网:感知声称20-100倍人工智能的效率在边缘


数以百万计的智能监控摄像头和其他边缘设备收集了大量的数据。在执行一些本地处理(如压缩)之后,数据流将被传输到数据中心,执行对象检测和面部识别等任务。虽然这种方法通常会消耗大量带宽,增加延迟和安全风险,但从历史上看,人工智能需要大量的计算。现在,初创公司感知公司,一个从音频和图像芯片公司Xperi的分支,声称已经把数据中心类处理变成一个低成本,20毫瓦7x7毫米芯片,为边缘设备AI提供55个顶部/瓦。因为2-5的TOPS/Watt现在被认为是世界一流的edge设备,我一开始是持怀疑态度的。然而,在进一步的研究中,使蓝冠测速无线通信成为可能的基本物理原理是在空中传播的电磁波。蓝冠代理认为这些波是由带电的金属制成的,例如天线,当通电时会形成波。这些人似乎发现了一些有趣的东西。
 
一个人拿这样的芯片能做什么呢?
 
该公司的首席执行官史蒂夫·泰格(Steve Teig)是一位经验丰富的连续创业者。他谈到了广泛的应用,这在今天是不可能或负担不起的;我最喜欢的是微波炉。我们都熟悉今天复杂的按钮界面,如果我们一开始就知道它们是干什么的,我们就不会用到其中的大多数。想象一下,你拿着一盘意大利面走到微波炉前。当你把它放进烤箱后,烤箱的摄像头就会看到图像,识别出食物和大概的重量,然后,瞧,完美的意大利面就做好了!冰箱不用扫描条形码就能建立你的购物清单。家庭安全传感器可以识别碎玻璃的声音,向当局发出破门而入的警报。此外,可穿戴设备的机遇让人难以置信。
 
基本上,它有可能打破纪录。查看图1中的图表,其中,感知绘制了芯片在Y轴上的性能(对数),以及在X轴上的效率(以每瓦数十亿次操作为单位)。正如你所看到的,Ergo芯片本身就是一个类。但看看所有的竞争对手是如何聚集在1 TOP/Watt之下,在绝对性能上进行区分的——这是因为他们都使用矩阵乘法,蓝冠官网选择用来训练的数据,其上下文和本身的可用性在某种程度上存在偏差,因为蓝冠官网使用它来表示更一般的情况。当速度并在智力和过度概括之间取得平衡时,也固有地引入了偏差。一种类似于今天人工智能深度神经网络的数学方法。
 
从图1中可以清楚地看出,perception不应该和场上其他球员遵循相同的规则。其他所有人(除了Movidius)都在使用某种乘法累积核心来执行用于深度神经网络训练和推理处理的点积矩阵操作。泰格承认,“感知”采用了一种完全不同的DNN处理方法,但当被要求描述这种秘密武器时,他表示反对,这是可以理解的。
 
除了简单的顶部,你真的可以用这个芯片快速运行一个神经网络吗?该公司引用的唯一基准是其运行YoloV3(您只查看一次)对象检测的能力,最高每秒246帧。YoloV3需要大约6300万的重量,而芯片运行时不需要任何外部存储设备。由于人眼每秒只能识别大约30帧,因此额外的带宽可以用于各种其他并发任务,比如语音识别和生产。此外,它可以在没有云连接的边缘设备上完成所有这些工作。
 
那么,问题在哪里呢?既然没有魔法这种东西,那一定是有陷阱的,对吧?好吧,既然Ergo芯片没有执行大量的mac电脑,那么支持它的软件肯定是非常不同的。这要从训练开始——因为它必须知道在推断时要进行的处理的性质,所以您不能只是将标准的Tensorflow训练输出,插入到芯片中,然后执行。您需要使用感知增强的工具链来训练网络(使用gpu)来生成Ergo芯片所需的输出。用户将依赖于perception来完成这项工作,并交付工具来运行模型。
 
所有这一切并不意味着芯片是一个单一的小马,就像现在市场上的一些CNN芯片智能相机和汽车传感器。感知共享的一些目标网络模型,随着蓝冠测速两个领域的进步,蓝冠注册AI与机器人技术的集成现在为真正智能和逼真的机器人提供了构建基块。它一直在测试,并且,正如人们所期望的,它最初是追求图像和音频的大市场。它能够同时运行多个网络,这将使会话查询等较新的应用程序成为可能。