在巨头环伺的边缘计算市场上,对于谷歌来说,Coral 的吸引力不一定是收入,而是有关人工智能如何应用到重要场景的信息与经验。
Coral 是一个由谷歌硬件和软件组件组成的平台,主打汽车和医疗健康场景。尽管绑定谷歌生态以实现差异化竞争,但目前 Coral 的大部分订单都是单个组件,只有少数客户以10K 起购。
去年三月,谷歌推出名为 Coral 的本地终端 AI 平台,包含 TPU、Coral Dev Board、USB 加速器和摄像头等四个部分。
平台强调以低功耗水平提高出色的 ML 推理性能,能够以良好的功率表现执行 MobileNet v2等最先进的移动视觉模型,且 fps 可达100以上。
基于 Coral 平台,谷歌发布了五款设备,分别是售价不到1000元人民币的单板计算机「Coral Dev Board」(由 Edge TPU 模块和 Baseboard 组成)、支持 Raspberry Pi 或 Debian Linux 计算机的 USB 加速器、对应 Dev Board 的500万像素镜头模块、 Dev Board 的系统模块(SoM),和轻易将机器学习加速器 Edge TPU 与现有计算机系统整合的 PCI-E 加速器。
备有 Edge TPU 机器学习加速的 Coral Dev Board
最初,项目在选定地区推出了 Beta 版,经过六个多月的反馈与改进,去年10月,Coral 从 Beta 版毕业,在更多地区推出面向全球发行的版本。
1 Coral 起源
尽管 Coral 的目标客户是企业,但项目起源于谷歌「AIY」系列自助机器学习工具。2017年,谷歌曾推出 AIY kit,借由树莓派 (Raspberry Pi) 电脑支持,任何人都可以自己制作智能音箱和智能相机。
虽然项目在 STEM 玩具和制造商市场上取得了巨大成功,但是 AIY 的团队也很快就注意到,一些客户只是想按照指示来制作玩具,但也有一些客户想把硬件改造成自己的产品原型,为了迎合这些顾客,Coral 应运而生。
2019年,已经推出 Dev Board、USB Accelerator 以及多款 PCIe Accelerator 产品组合,已经在全球36个国家进行部署。在今年的 CES 大展上,谷歌进一步更新平台,推出多款产品,扩大应用面。
第一款新产品是 Accelerator Module 加速模组,这款多芯片模组包括了 Edge TPU ASIC,并支持 PCIe 与 USB 接口,可以嵌入定制的印刷电路设计,是谷歌和日本电子零件制造商 Murata 共同打造的。
第二款产品则是 Dev Board Mini 开发板,体积比 Dev Board 体积更小,搭载 MediaTek 8167s SoC,可达成720P 解析度影像编码/解码以及电脑视觉运用,功耗更低、更加经济实惠,两者预计在2020上半年正式上市。
Google 亦打造不同版本的 Coral 系统模组(SoM),除了原本的1GB LPDDR4配置之外,新增了2GB 与4GB 配置的版本。
人工智能的快速发展和日趋成熟,已经让机器人得以执行此前仅能由人类完成的各项任务。
为了在工厂产线上进行质量控制,可以设置 AI 驱动的摄像头发现缺陷;为了高效处理大量医疗数据,人们可以借助机器学习识别潜在的肿瘤,帮助医生预防和及时治疗。
不过,这些应用场景只有在数据处理足够快速和安全的前提下才能完成。如果在工厂环境中,AI 摄像头需要数分钟时间来处理图像,那就没有实际意义。如果需要将患者数据传送到云端,必然会带来医疗数据被泄露的风险。而谷歌的 Coral 项目正希望解决这些问题。
来自 (人工智能) 设备的数据,通常被发送到大型数据中心,机器学习模型可以在这里得以高速运行。Coral 的产品经理 Vikram Tank 解释道,Coral 是一个由谷歌的硬件和软件组件组成的平台,可以帮助用户构建具有本地人工智能的设备,也就是说,在边缘设备上为神经网络提供硬件加速。
像开发板(如上)一样,Coral 的产品可以用于制作新 AI 设备原型。
2两大核心场景
Coral 不仅旨在帮助工程师和研究人员将新模型带出数据中心并带入设备,从而在边缘高效运行 TensorFlow 模型,本质上,它也是边缘硬件在农业,医疗保健到制造业等行业新应用的核心。
试想一辆以每小时65英里行驶的汽车,穿越10英尺的距离仅耗时100毫秒,这意味着任何延迟都会当事人的生命风险,如果可以在设备端就进行数据分析和计算,而不必受限于缓慢的网络延迟,看到信号灯转变红色立刻停车,当事人会安全许多。
在医学领域,将分析处理留在设备端,也能很大程度改善隐私问题。特别是对于那些利用图像识别对超声图像进行实时分析的医疗设备制造商来说,将病患图像发送到云端,无疑成为黑客攻击的一个薄弱环节,如果在设备上进行图像进行分析,这些敏感数据就不会超出医生与病患的控制范围。
有市场分析师预测,到2020年,边缘端的 AI 芯片和搭载其的计算机将超过7.5亿个/台,到2024年将增长到15亿个。尽管其中大多数将安装在诸如电话之类的消费类设备中,但绝大部分将运用于行业中的企业客户例如汽车和医疗保健。
Coral 产品经理明确表示,单身工程师们可以用这些硬件打造智能棉花糖分拣机或者喂鸟器,但项目的长期重点客户是汽车和医疗健康行业。
谷歌的 Edge TPU,也是大多数 Coral 产品的核心。
3绑定生态的差异化竞争
谷歌认识到,有越来越多的行业已经认识到本地化 AI 的价值,也确实在推动设备上的机器学习。
在今年的 I/O 大会上,除了在 I/O 大会上展示的 Pixel 4设备上的语音识别模型外,他们还宣布了「本地家庭 SDK」,允许连接的家庭设备无需与云端即可进行直接操作
但是,谷歌面临的问题是,有几十家公司的目标与 Coral 类似。特别是巨头们边缘端 AI 布局的完善和实力正在进一步增强,边缘端芯片市场竞争也因此变得更加激烈。
比如,这是苹果从一开始就采取的策略,特别是 John Giannandrea 离开谷歌,担任苹果机器学习和人工智能主管之后。最近,苹果又将 Xnor.ai 收入囊中。这家创业公司的重点是机器学习和图像识别工具,这些技术可以在低功耗设备上运行,不需要依靠云计算架构。在此之前,苹果收购了主打隐私的人工智能初创公司 Silk Labs。
Jetson 是英伟达在面向嵌入式市场的产品线,正是对标英特尔 Movidius。区别于其他边缘 SoC 的特点,Jetson 家族强调并行运行多个神经网络。截至目前,Jetson 已发布四个系列,主要部署在边缘与终端应用上,适用于机器人、无人机和智能摄像头等应用。
不过,继英伟达最小边缘超算后,英特尔再推10倍提升 VPU,与之抗衡。
在中国市场,华为推出首款面向边缘计算品牌昇腾,除了瞄准机器人、智能制造等终端智能产品,同时也是华为在安防智能摄像头和边缘计算的重要布局。
对此,Coral 团队表示,考虑到市场上有大量的竞争对手,他们将硬件与谷歌的人工智能服务生态系统紧密整合,从而使自己与众不同。事实上,芯片、云培训、开发工具等,也一直是谷歌人工智能服务的关键优势。比如,Coral 就有一个专门服务硬件编译的人工智能模型库。
Coral 与谷歌的人工智能生态系统紧密结合,以至于基于 TPU 的边缘硬件只能与谷歌的机器学习框架 TensorFlow 兼容,对于市场潜在用户来说,这些深度绑定可能会适得其反。
Kneron 在接受媒体采访时曾表示,尽管谷歌进入这个市场验证并推动了这个领域的创新,但是,Coral 产品专为谷歌平台设计,而他们的产品支持市场上所有主要 AI 框架和模型。
可以肯定的是,谷歌肯定不会像推行云端 AI 服务那样大力推广 Coral。一位熟悉内情的消息人士告诉媒体,Coral 的大部分订单都是某个组件 (例如 AI 加速器和开发板),只有少数客户以10K 份起购。
不过,在机器学习不可避免地从云端走向边缘的过程中,对谷歌来说,Coral 的吸引力不一定是收入,而是提供了有关人工智能如何应用到重要场景的信息与经验。
|