最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

Why TinyML is a giant opportunity——为什么TinyML会是一个巨大的机会

业界 admin 3浏览 0评论

晚上看到一篇文章内容觉得挺有意思的,最近正好也是在看一些边缘端弱算力设备下的工作,就想着趁着还没睡花点时间翻译阅读记录一下,感兴趣的话也可以看下。

随着新十年的开始,我们听到了从完全远程劳动力到量子计算的各种预测。然而,科技博客上很少提到一个新兴趋势——一个形式可能很小,但有可能产生巨大影响的趋势。我们正在讨论微控制器。

当今世界有2500亿个微控制器。仅2018年就售出了281亿台,IC Insights预测,到2023年,年出货量将增长到382亿台。
也许我们有点超前了,因为你可能不知道我们所说的微控制器到底是什么意思。微控制器是一种专用于在设备内执行一项任务或程序的小型专用计算机。例如,电视中的微控制器控制频道选择器和扬声器系统。当它从电视遥控器接收输入时,它会改变这些系统。微控制器及其管理的组件统称为嵌入式系统,因为它们嵌入在它们控制的设备中。环顾四周,这些嵌入式系统无处不在,几乎存在于任何现代电子设备中。你的办公机器、汽车、医疗设备和家用电器几乎都有微控制器。
在过去几年中,随着云计算、移动设备普及、人工智能和物联网(IoT)的流行,这些微控制器(及其驱动的嵌入式系统)在很大程度上被低估了。这种情况即将改变。
近年来微控制器销售的强劲增长在很大程度上是由物联网的强劲势头推动的。微控制器有助于电子系统的自动化和嵌入式控制,以及传感器和应用程序与物联网的连接。这些方便的小设备也非常便宜,平均每台价格为60美分(而且还在下降)。尽管成本低廉,但微控制器在系统层面的经济影响是巨大的,因为来自物理世界的传感器数据是工业数字化转型的命脉。然而,这只是故事的一部分。
多种趋势的融合使微控制器不仅成为实现物联网应用的管道,而且本身也是一种强大、独立的处理机制。近年来,硬件的进步使微控制器能够更快地执行计算。改进的硬件加上更高效的开发标准,使开发人员更容易在这些设备上构建程序。不过,也许最重要的趋势是微型机器学习(TinyML)的兴起。自从在这个领域投资了一家初创公司以来,我们一直在关注这项技术。

潜力巨大

TinyML广泛地封装了能够以极低的功耗对传感器数据进行设备上分析的机器学习技术领域。在硬件进步和TinyML社区最近在机器学习方面的创新之间,现在可以直接在微控制器上运行越来越复杂的深度学习模型(大多数现代人工智能应用的基础)。快速浏览一下引擎盖,就会发现这从根本上是可能的,因为深度学习模型是受计算限制的,这意味着它们的效率受到完成大量算术运算所需时间的限制。TinyML的进步使得在现有的微控制器硬件上运行这些模型成为可能。
换句话说,我们的打印机、电视、汽车和起搏器中的2500亿个微控制器现在可以执行以前只有我们的计算机和智能手机才能处理的任务。得益于微控制器,我们所有的设备和电器都变得越来越智能。
TinyML代表了嵌入式超低功耗系统和机器学习社区之间的合作努力,传统上它们在很大程度上是独立运作的。这一联盟为设备上机器学习的新的和令人兴奋的应用打开了闸门。然而,深度学习和微控制器完美匹配的知识一直是非常独特的,隐藏在谷歌和苹果等科技巨头的墙后。当你了解到这种在微控制器上运行修改后的深度学习模型的范式负责多年来一直存在的“Okay Google”和“Hey Siri”功能时,这一点就变得更加明显了。
但是,为什么我们能够在微控制器上运行这些模型很重要呢?由于成本、带宽或功率限制,或者有时是三者的结合,今天生成的大部分传感器数据都被丢弃了。例如,以一颗图像微型卫星为例。这些卫星配备了能够捕获高分辨率图像的相机,但受到它们可以存储的照片大小和数量以及将这些照片传输到地球的频率的限制。因此,这些卫星必须以低分辨率和低帧率存储图像。如果我们可以使用图像检测模型仅在图像中存在感兴趣的对象(如船或天气模式)时保存高分辨率照片,那会怎么样?虽然这些微型卫星上的计算资源历来太小,无法支持图像检测深度学习模型,但TinyML现在使这成为可能。
在微控制器上部署深度学习模型的另一个好处是,微控制器使用的能量非常少。与需要直接连接到电网或频繁充电或更换电池的系统相比,微控制器可以使用单个纽扣电池连续运行图像识别模型一年。此外,由于大多数嵌入式系统没有连接到互联网,这些智能嵌入式系统基本上可以部署在任何地方。通过在没有持续连接到互联网的情况下实现决策,在嵌入式系统上部署深度学习模型的能力为全新类型的产品创造了机会。

早期TinyML应用程序

抽象地谈论应用程序很容易,但让我们把注意力集中在未来几年可能会影响我们工作或生活方式的具体应用程序上:
移动性:如果我们将TinyML应用于接收实时交通数据的传感器,我们可以使用它们更有效地安排交通路线,并缩短应急车辆的响应时间。像Swim这样的公司。人工智能在流数据上使用TinyML,通过高效的路线来提高乘客安全,减少拥堵和排放。
智能工厂:在制造业,TinyML可以通过实时决策来阻止因设备故障而导致的停机。它可以根据设备状况,在必要时提醒工人进行预防性维护。
零售:通过监控商店的货架并在商品数量减少时立即发出警报,TinyML可以防止商品缺货。
农业:农民面临动物疾病造成的严重利润损失。监测心率、血压、体温等健康指标的牲畜可穿戴设备的数据可以帮助预测疾病和流行病的爆发。

在TinyML成为主流之前…

尽管TinyML可能很有趣,但我们还处于早期阶段,在它被主流采用之前,我们需要看到一些趋势的出现。
每个成功的生态系统都建立在参与的社区之上。一个充满活力的TinyML社区将带来更快的创新,因为它提高了人们的认识和采用率。我们需要对支持TinyML的开源项目进行更多投资(就像谷歌围绕TensorFlow为更广泛的机器学习所做的工作一样),因为开源允许每个贡献者在其他人的工作之上构建,以创建全面而强大的解决方案。
其他核心生态系统参与者和工具也将是必要的:
高通、意法半导体和ETA Compute等芯片组制造商和平台可以与开发人员携手合作,确保芯片组为预期应用做好准备,并构建平台集成以促进快速应用程序开发。
云玩家可以投资端到端的优化平台解决方案,实现设备和云之间的数据无缝交换和处理。
需要设备级软件基础设施公司的直接支持,如试图提高固件可靠性的Memfault和正在解决设备级数据安全和共享问题的Argosy Labs。这些变化使开发人员能够更好地控制软件部署,几乎可以从任何设备获得更高的安全性。
需要构建生命周期TinyML工具,以促进数据集管理、算法开发和版本管理,并增强测试和部署生命周期。
然而,创新者最终是推动变革的力量。我们需要更多的机器学习专家,他们有资源挑战现状,让TinyML更容易使用。TensorFlow移动团队负责人Pete Warden有一项雄心勃勃的任务,即构建在微控制器上运行一年的机器学习应用程序,只使用助听器电池供电。我们需要更多像Pete这样的领导者挺身而出,引领突破,使TinyML在短期内成为现实。
总之:TinyML是一个刚刚开始出现的巨大机会。预计在未来一两年内,这个领域会有相当大的发展。

晚上看到一篇文章内容觉得挺有意思的,最近正好也是在看一些边缘端弱算力设备下的工作,就想着趁着还没睡花点时间翻译阅读记录一下,感兴趣的话也可以看下。

随着新十年的开始,我们听到了从完全远程劳动力到量子计算的各种预测。然而,科技博客上很少提到一个新兴趋势——一个形式可能很小,但有可能产生巨大影响的趋势。我们正在讨论微控制器。

当今世界有2500亿个微控制器。仅2018年就售出了281亿台,IC Insights预测,到2023年,年出货量将增长到382亿台。
也许我们有点超前了,因为你可能不知道我们所说的微控制器到底是什么意思。微控制器是一种专用于在设备内执行一项任务或程序的小型专用计算机。例如,电视中的微控制器控制频道选择器和扬声器系统。当它从电视遥控器接收输入时,它会改变这些系统。微控制器及其管理的组件统称为嵌入式系统,因为它们嵌入在它们控制的设备中。环顾四周,这些嵌入式系统无处不在,几乎存在于任何现代电子设备中。你的办公机器、汽车、医疗设备和家用电器几乎都有微控制器。
在过去几年中,随着云计算、移动设备普及、人工智能和物联网(IoT)的流行,这些微控制器(及其驱动的嵌入式系统)在很大程度上被低估了。这种情况即将改变。
近年来微控制器销售的强劲增长在很大程度上是由物联网的强劲势头推动的。微控制器有助于电子系统的自动化和嵌入式控制,以及传感器和应用程序与物联网的连接。这些方便的小设备也非常便宜,平均每台价格为60美分(而且还在下降)。尽管成本低廉,但微控制器在系统层面的经济影响是巨大的,因为来自物理世界的传感器数据是工业数字化转型的命脉。然而,这只是故事的一部分。
多种趋势的融合使微控制器不仅成为实现物联网应用的管道,而且本身也是一种强大、独立的处理机制。近年来,硬件的进步使微控制器能够更快地执行计算。改进的硬件加上更高效的开发标准,使开发人员更容易在这些设备上构建程序。不过,也许最重要的趋势是微型机器学习(TinyML)的兴起。自从在这个领域投资了一家初创公司以来,我们一直在关注这项技术。

潜力巨大

TinyML广泛地封装了能够以极低的功耗对传感器数据进行设备上分析的机器学习技术领域。在硬件进步和TinyML社区最近在机器学习方面的创新之间,现在可以直接在微控制器上运行越来越复杂的深度学习模型(大多数现代人工智能应用的基础)。快速浏览一下引擎盖,就会发现这从根本上是可能的,因为深度学习模型是受计算限制的,这意味着它们的效率受到完成大量算术运算所需时间的限制。TinyML的进步使得在现有的微控制器硬件上运行这些模型成为可能。
换句话说,我们的打印机、电视、汽车和起搏器中的2500亿个微控制器现在可以执行以前只有我们的计算机和智能手机才能处理的任务。得益于微控制器,我们所有的设备和电器都变得越来越智能。
TinyML代表了嵌入式超低功耗系统和机器学习社区之间的合作努力,传统上它们在很大程度上是独立运作的。这一联盟为设备上机器学习的新的和令人兴奋的应用打开了闸门。然而,深度学习和微控制器完美匹配的知识一直是非常独特的,隐藏在谷歌和苹果等科技巨头的墙后。当你了解到这种在微控制器上运行修改后的深度学习模型的范式负责多年来一直存在的“Okay Google”和“Hey Siri”功能时,这一点就变得更加明显了。
但是,为什么我们能够在微控制器上运行这些模型很重要呢?由于成本、带宽或功率限制,或者有时是三者的结合,今天生成的大部分传感器数据都被丢弃了。例如,以一颗图像微型卫星为例。这些卫星配备了能够捕获高分辨率图像的相机,但受到它们可以存储的照片大小和数量以及将这些照片传输到地球的频率的限制。因此,这些卫星必须以低分辨率和低帧率存储图像。如果我们可以使用图像检测模型仅在图像中存在感兴趣的对象(如船或天气模式)时保存高分辨率照片,那会怎么样?虽然这些微型卫星上的计算资源历来太小,无法支持图像检测深度学习模型,但TinyML现在使这成为可能。
在微控制器上部署深度学习模型的另一个好处是,微控制器使用的能量非常少。与需要直接连接到电网或频繁充电或更换电池的系统相比,微控制器可以使用单个纽扣电池连续运行图像识别模型一年。此外,由于大多数嵌入式系统没有连接到互联网,这些智能嵌入式系统基本上可以部署在任何地方。通过在没有持续连接到互联网的情况下实现决策,在嵌入式系统上部署深度学习模型的能力为全新类型的产品创造了机会。

早期TinyML应用程序

抽象地谈论应用程序很容易,但让我们把注意力集中在未来几年可能会影响我们工作或生活方式的具体应用程序上:
移动性:如果我们将TinyML应用于接收实时交通数据的传感器,我们可以使用它们更有效地安排交通路线,并缩短应急车辆的响应时间。像Swim这样的公司。人工智能在流数据上使用TinyML,通过高效的路线来提高乘客安全,减少拥堵和排放。
智能工厂:在制造业,TinyML可以通过实时决策来阻止因设备故障而导致的停机。它可以根据设备状况,在必要时提醒工人进行预防性维护。
零售:通过监控商店的货架并在商品数量减少时立即发出警报,TinyML可以防止商品缺货。
农业:农民面临动物疾病造成的严重利润损失。监测心率、血压、体温等健康指标的牲畜可穿戴设备的数据可以帮助预测疾病和流行病的爆发。

在TinyML成为主流之前…

尽管TinyML可能很有趣,但我们还处于早期阶段,在它被主流采用之前,我们需要看到一些趋势的出现。
每个成功的生态系统都建立在参与的社区之上。一个充满活力的TinyML社区将带来更快的创新,因为它提高了人们的认识和采用率。我们需要对支持TinyML的开源项目进行更多投资(就像谷歌围绕TensorFlow为更广泛的机器学习所做的工作一样),因为开源允许每个贡献者在其他人的工作之上构建,以创建全面而强大的解决方案。
其他核心生态系统参与者和工具也将是必要的:
高通、意法半导体和ETA Compute等芯片组制造商和平台可以与开发人员携手合作,确保芯片组为预期应用做好准备,并构建平台集成以促进快速应用程序开发。
云玩家可以投资端到端的优化平台解决方案,实现设备和云之间的数据无缝交换和处理。
需要设备级软件基础设施公司的直接支持,如试图提高固件可靠性的Memfault和正在解决设备级数据安全和共享问题的Argosy Labs。这些变化使开发人员能够更好地控制软件部署,几乎可以从任何设备获得更高的安全性。
需要构建生命周期TinyML工具,以促进数据集管理、算法开发和版本管理,并增强测试和部署生命周期。
然而,创新者最终是推动变革的力量。我们需要更多的机器学习专家,他们有资源挑战现状,让TinyML更容易使用。TensorFlow移动团队负责人Pete Warden有一项雄心勃勃的任务,即构建在微控制器上运行一年的机器学习应用程序,只使用助听器电池供电。我们需要更多像Pete这样的领导者挺身而出,引领突破,使TinyML在短期内成为现实。
总之:TinyML是一个刚刚开始出现的巨大机会。预计在未来一两年内,这个领域会有相当大的发展。

发布评论

评论列表 (0)

  1. 暂无评论