将深度学习的“物联网”

深度学习无处不在。人工智能的分支管理你的社交媒体和服务你的谷歌搜索结果。很快,深度学习也可以检查你的重要器官或设置恒温器。麻省理工学院的研究人员已经开发出一种系统,可以带来新的深度学习神经网络- - - - - -和小得多- - - - - -地方,像微型电脑芯片可穿戴式医疗设备,家用电器,2500亿其他对象构成了“物联网”(物联网)。

神经网络系统,称为MCUNet,设计紧凑,为深度学习带来前所未有的速度和准确性在物联网设备上,尽管有限的内存和处理能力。技术可以促进物联网的膨胀宇宙而节约能源和提高数据安全性。

这项研究将会在下月的会议上神经信息处理系统。第一作者是吉林,一个博士生在歌韩寒的实验室在麻省理工学院的电气工程和计算机科学。合作者包括汉族和林Yujun麻省理工学院、麻省理工学院和台湾国立大学的伟明陈,约翰·科恩和壮族Gan MIT-IBM沃森的人工智能实验室。

物联网

物联网的出生在1980年代早期。卡内基梅隆大学的研究生,包括迈克Kazar“78年Cola-Cola机连接到互联网。该集团的动机很简单:懒惰。他们想要使用他们的电脑前确认机器储存徒步从他们的办公室购买。它是世界上第一个网络设备。“这是几乎当作一个笑话的笑点,“Kazar说,现在微软工程师。“没有人预期数以十亿美元计的设备在互联网上。”

以来,可口可乐机、日常用品越来越网络化发展物联网。包括从可穿戴心脏监测器智能冰箱,告诉你当你低牛奶。物联网设备通常运行在微控制器——简单的计算机芯片,没有操作系统,最小的处理能力,不到1000的记忆一个典型的智能手机。所以模式识别任务像深度学习很难在物联网设备上本地运行。对于复杂的分析,IoT-collected数据往往是发送到云,使它容易受到黑客攻击。

“我们如何部署神经网络直接在这些小设备吗?这是一个新的研究领域,越来越烫,“汉说。“公司像谷歌和手臂都在这个方向努力。”Han is too.

MCUNet,韩寒的小组合作设计两个组件所需的“小深度学习”——神经网络对微控制器的操作。一个推理引擎组件TinyEngine,引导资源管理,类似于一个操作系统。TinyEngine优化运行一个特定的神经网络结构,由MCUNet选定的其他组件:TinyNAS,神经结构搜索算法。

系统算法合作设计

为微控制器设计深度网络并不容易。现有的神经结构搜索技术从一个大池可能的网络结构基于预定义的模板,然后逐渐找到高精度和低成本。虽然这个方法是可行的,这不是最有效的。“这对gpu或智能手机可以很好地工作,”林说。“但这是很难直接应用这些技术小微控制器,因为他们太小了。”

所以林发达TinyNAS神经结构的搜索方法,创建自定义网络。“我们有很多的微控制器,带有不同的权力能力和不同的内存大小,”林说。“我们开发的算法(TinyNAS)优化的搜索空间不同的微控制器。”The customized nature of TinyNAS means it can generate compact neural networks with the best possible performance for a given microcontroller -- with no unnecessary parameters. "Then we deliver the final, efficient model to the microcontroller," say Lin.

微小的神经网络的运行,微控制器也需要一个精益推理引擎。典型的推理引擎进行一些重量,指令任务可能很少。带来额外的代码没有问题笔记本电脑或智能手机,但它很容易淹没一个单片机。“它没有片外存储器,它没有磁盘,”汉说。“一切都加在一起只是一个flash的字节,所以我们必须仔细管理这样一个小的资源。”Cue TinyEngine.

研究人员开发了他们的推理引擎结合TinyNAS。TinyEngine生成必要的代码需要运行TinyNAS定制的神经网络。任何无谓的代码被丢弃,这减少了编译时。“我们只保留我们需要的,”汉说。“因为我们设计的神经网络,我们知道我们需要什么。这是系统算法的优势合作设计”。In the group's tests of TinyEngine, the size of the compiled binary code was between 1.9 and five times smaller than comparable microcontroller inference engines from Google and ARM. TinyEngine also contains innovations that reduce runtime, including in-place depth-wise convolution, which cuts peak memory usage nearly in half. After codesigning TinyNAS and TinyEngine, Han's team put MCUNet to the test.

MCUNet的第一个挑战是图像分类。ImageNet数据库研究人员使用培训系统标记图像,然后测试其小说的分类的能力。在商业单片机测试,MCUNet成功分类70.7%的小说形象——前面的最先进的神经网络和推理引擎组合仅为54%准确。“即使提高1%被认为是重要的,”林说。“所以这是微控制器设置的一大步。”

研究小组发现类似的结果在ImageNet其他三个微控制器的测试。在速度和准确性,MCUNet击败竞争音频和视觉“wake-word”任务,用户发起与计算机的交互使用声音线索(想:“嘿,Siri”)或简单地进入一个房间。实验强调MCUNet众多应用程序的适应性。

“巨大的潜力”

有前途的测试结果给韩寒希望它将为微控制器成为新的行业标准。“它有巨大的潜力,”他说。

推进“深层神经网络设计的边界延伸更远的计算域小节能微控制器,”科特Keutzer说,加州大学伯克利分校的计算机科学家,他并没有参与这项工作。他补充说,MCUNet可能“将智能计算机视觉功能甚至最简单的厨房电器,或使运动传感器更聪明。”

MCUNet也可以使物联网设备更安全。“一个关键优势是保留隐私,”汉说。“你不需要传输数据到云”。
分析数据在本地可以减少个人信息被盗的风险,包括个人健康数据。汉设想与MCUNet智能手表,不要只是感觉用户的心跳、血压和氧含量,还分析和帮助他们理解这些信息。MCUNet也可能带来深度学习物联网设备在车辆和农村有限的互联网接入。

另外,MCUNet苗条计算足迹转化为苗条的碳足迹。“我们最大的梦想是为绿色AI,”汉说,补充说,训练一个神经网络可以燃烧碳当量大5辆汽车的生命周期排放。在单片机MCUNet需要能量的一小部分。“我们的最终目标是使高效、小AI与计算资源更少,更少的人力资源,和更少的数据,”汉说。

本文基于有待同行评审的研究成果。因此被视为初步结果,应该解释为这样的。了解同行评审过程的作用研究在这里。为进一步的信息,请联系引用源。

参考:

林J,陈wm阵型,林Y,科恩J, Gan C,汉族s MCUNet:小深度学习物联网设备上。arXiv: 200710319 (cs)。2020年7月20日在线发表。2020年11月16日访问。http://arxiv.org/abs/2007.10319

本文从以下转载材料。注:材料可能是长度和内容的编辑。为进一步的信息,请联系引用源。