在(zài)巨(jù)头环伺的边缘计算市场(chǎng)上(shàng),对(duì)于谷歌来说,Coral 的吸(xī)引力不一定是收入,而是有关人工(gōng)智能如何应用(yòng)到(dào)重要场(chǎng)景的信息(xī)与经验。
Coral 是一个由谷歌硬件(jiàn)和软(ruǎn)件组件组成的平(píng)台,主打汽车和医疗健康场景。尽管绑定谷歌生态以实现差异化竞争,但目(mù)前 Coral 的大部分(fèn)订单都是单个(gè)组件,只有少数客户以10K 起购。
去年三月,谷歌推出名为 Coral 的本地终端 AI 平台(tái),包含(hán) TPU、Coral Dev Board、USB 加速(sù)器和摄像头等四个部分。
平台(tái)强调以低功耗水平提高(gāo)出色的(de) ML 推理(lǐ)性能,能(néng)够以良好的功率表现执行 mobilesNet v2等最先进的移动视觉模型,且 fps 可达100以上。
基于 Coral 平(píng)台,谷歌发布了五(wǔ)款设备,分(fèn)别是售价不到1000元(yuán)人民(mín)币的单(dān)板计算机「Coral Dev Board」(由 Edge TPU 模块和 baseboard 组成)、支持 Raspberry Pi 或 Debian Linux 计(jì)算机的 USB 加(jiā)速器、对应 Dev Board 的500万像(xiàng)素镜(jìng)头模(mó)块、 Dev Board 的系统模块(SoM),和轻易将(jiāng)机器学习加速器 Edge TPU 与现有计算机系统整合的 PCI-E 加速器。
portant;" />
备有(yǒu) Edge TPU 机器学习加速的 Coral Dev Board
最初,项目在选定地区推(tuī)出了 Beta 版,经过六个多月的反馈与(yǔ)改进,去年10月,Coral 从 Beta 版毕(bì)业,在更多地区推(tuī)出面(miàn)向全(quán)球发(fā)行的(de)版(bǎn)本(běn)。
1Coral 起源
尽管 Coral 的目标客户是企业,但项目起源于谷歌(gē)「AIY」系列自助机器学习工具。2017年,谷歌曾推出 AIY kit,借(jiè)由树莓派 (Raspberry Pi) 电脑支持,任何人(rén)都可(kě)以自己制作(zuò)智能音(yīn)箱(xiāng)和(hé)智能相机。
虽然项目(mù)在 STEM 玩(wán)具(jù)和制造商市场上(shàng)取得了巨大成功(gōng),但是 AIY 的团队也(yě)很快(kuài)就注意到,一些(xiē)客户(hù)只是想按(àn)照指示来制作玩(wán)具,但也有一些客(kè)户(hù)想把硬件改造(zào)成自(zì)己的产品原(yuán)型,为了迎(yíng)合(hé)这些顾客,Coral 应运(yùn)而生。
2019年,已经推出 Dev Board、USB Accelerator 以及多款 PCIe Accelerator 产(chǎn)品组合,已经在全球36个国家进行(háng)部署。在今(jīn)年的 CES 大展上,谷(gǔ)歌进一步更(gèng)新平台,推出多款产品,扩大应用(yòng)面。
第一款新产品是 Accelerator Module 加速模组,这款多(duō)芯片模组包括了 Edge TPU ASIC,并支持(chí) PCIe 与 USB 接(jiē)口,可以嵌入(rù)定(dìng)制的印刷电路设计,是谷歌和日(rì)本电子零件制(zhì)造商 Murata 共同打造的。
第二款产品则是 Dev Board Mini 开(kāi)发板(bǎn),体(tǐ)积比 Dev Board 体积(jī)更小,搭载 MediaTek 8167s SoC,可达成720P 解析度影像编(biān)码/解码以(yǐ)及电脑视觉(jiào)运用,功耗更(gèng)低、更加经(jīng)济实惠,两者预计在2020上半年正式上(shàng)市。
Google 亦打(dǎ)造不同版(bǎn)本的(de) Coral 系统(tǒng)模组(SoM),除了原本的(de)1GB LPDDR4配置之外,新增了2GB 与4GB 配(pèi)置的版本。
人工智能的快速发展和日趋成(chéng)熟,已经(jīng)让机器人得(dé)以执行(háng)此前仅能由人(rén)类完成的各项任务。
为了(le)在(zài)工厂产(chǎn)线(xiàn)上进行质量(liàng)控(kòng)制,可以设置 AI 驱动(dòng)的摄像头发现缺陷(xiàn);为了高效处理大量医疗数据,人们可以借(jiè)助机(jī)器学习识别潜在(zài)的肿(zhǒng)瘤,帮(bāng)助医生预防和及时治疗。
不过(guò),这些应用(yòng)场景只有在(zài)数据处理足(zú)够快速和安全的前提下才能完成(chéng)。如果(guǒ)在工(gōng)厂环境中,AI 摄像头需要数分(fèn)钟(zhōng)时间来(lái)处理图像,那(nà)就(jiù)没有实际(jì)意义。如果需要将患(huàn)者(zhě)数据(jù)传(chuán)送到云端,必(bì)然会带来医(yī)疗数(shù)据被泄露的风险。而谷歌(gē)的 Coral 项目正希(xī)望解决这些问题。
来自 (人工智能) 设(shè)备的数据,通常(cháng)被发送到大(dà)型数据(jù)中心,机器学习模型可(kě)以在这(zhè)里得以(yǐ)高速运(yùn)行。Coral 的产品经理 Vikram Tank 解释道,Coral 是一个由(yóu)谷歌(gē)的硬(yìng)件(jiàn)和软(ruǎn)件组件组成的平台(tái),可以帮助(zhù)用(yòng)户构建具有本地人(rén)工(gōng)智能(néng)的设备,也就是说(shuō),在边缘设(shè)备上为神经网络提供硬件(jiàn)加(jiā)速。
portant;" />
像开发板(如(rú)上)一样,Coral 的产品可以(yǐ)用(yòng)于制作新 AI 设(shè)备原型(xíng)。
2两大核(hé)心场景
Coral 不仅(jǐn)旨(zhǐ)在帮(bāng)助工程师和研究人员将新(xīn)模型(xíng)带出数据中心并带入(rù)设(shè)备,从而在边缘高效(xiào)运行 TensorFlow 模(mó)型,本质上,它也(yě)是边缘(yuán)硬件(jiàn)在(zài)农业,医疗保(bǎo)健到制造业等(děng)行业新应(yīng)用(yòng)的核心。
试想一辆(liàng)以(yǐ)每小时(shí)65英里(lǐ)行驶的汽车,穿越(yuè)10英尺的距(jù)离仅耗(hào)时100毫秒,这意味(wèi)着(zhe)任何延迟都会当事人的生命风(fēng)险,如果(guǒ)可以(yǐ)在(zài)设备(bèi)端就进行数(shù)据分析和计算,而不(bú)必受限于(yú)缓慢的网络延迟,看到信(xìn)号灯转变红(hóng)色立刻停(tíng)车,当事人会安全许多。
在医学领(lǐng)域,将分析处理留在设备端,也能很大程度改善隐私问题(tí)。特别是(shì)对于那些(xiē)利用(yòng)图像识别对超声(shēng)图像进行实时分析的医疗设备(bèi)制(zhì)造(zào)商来说(shuō),将(jiāng)病患图像(xiàng)发送到云端,无疑成为黑客攻(gōng)击的(de)一个(gè)薄弱环节,如果在(zài)设备上进行图像进行(háng)分析,这些敏感数据就不(bú)会超出医生与病患(huàn)的控制范(fàn)围。
有市场分析师预(yù)测(cè),到2020年,边缘端的(de) AI 芯片和搭(dā)载其的计(jì)算机将超过7.5亿个/台,到(dào)2024年将(jiāng)增长到15亿个。尽管其中大(dà)多数将安装在诸如电话之类的消(xiāo)费类设(shè)备中,但绝大部分将运用于行业中的(de)企(qǐ)业(yè)客户例如汽车和医疗保健。
Coral 产品经理明(míng)确表示(shì),单身工程师们可以用这些硬件打造智能棉花糖分拣机(jī)或(huò)者喂鸟器(qì),但项目的长期重点(diǎn)客户是汽车和医疗健康(kāng)行业。
portant;" />
谷歌的 Edge TPU,也是大多数 Coral 产(chǎn)品的核心(xīn)。
3绑定生态(tài)的差异化竞争(zhēng)
谷歌认识到,有越来越(yuè)多的行业已经认识到本(běn)地化(huà) AI 的价值,也确实在推动设(shè)备上的机器(qì)学习。
在今年的 I/O 大会上(shàng),除(chú)了在 I/O 大会上(shàng)展示(shì)的(de) Pixel 4设(shè)备(bèi)上的语音识(shí)别(bié)模型外,他们(men)还宣布了「本地家庭 SDK」,允(yǔn)许连接的(de)家庭设备无需与云端即可(kě)进行直(zhí)接操(cāo)作
但是,谷歌面临(lín)的问题是,有几十家公司的目(mù)标(biāo)与 Coral 类似。特别是巨头们边缘端 AI 布局的完善和实力正在进一步增(zēng)强(qiáng),边缘端芯片市场竞争也因此(cǐ)变得更加激烈。
比如,这是苹(píng)果从一(yī)开始就采(cǎi)取(qǔ)的策略,特别是 John Giannandrea 离开谷歌(gē),担任(rèn)苹果机器学习和人工智能主管之后(hòu)。最近,苹果又将 Xnor.ai 收(shōu)入囊(náng)中。这家(jiā)创业(yè)公司(sī)的重点是(shì)机器(qì)学(xué)习和图像识别工具,这些技术(shù)可以(yǐ)在低功耗设备上运行,不需要依靠云计算架构。在此之前,苹(píng)果收购了主打隐私(sī)的人(rén)工(gōng)智能(néng)初创公司(sī) Silk Labs。
Jetson 是英伟达(dá)在面向嵌入式(shì)市场(chǎng)的产品线,正是(shì)对标英特尔 Movidius。区(qū)别于其他边缘 SoC 的特点,Jetson 家族强调并行运行(háng)多个神经网络。截至(zhì)目前(qián),Jetson 已发布四个系列,主要部署在(zài)边(biān)缘与终端(duān)应用上,适用于机器人、无人(rén)机和智能摄像头等应(yīng)用。
不过,继英伟达最小边缘(yuán)超(chāo)算后,英(yīng)特尔再(zài)推10倍提(tí)升 VPU,与(yǔ)之抗衡。
在中国市场(chǎng),华为推出(chū)首款面向边缘计算品牌(pái)N腾,除了瞄准(zhǔn)机器人、智能制造等终端智(zhì)能产品,同时也是华为在(zài)安防智能摄像头和边缘计算(suàn)的(de)重要布(bù)局(jú)。
对此,Coral 团(tuán)队表示(shì),考虑到市场上有大(dà)量的竞争对手,他们将硬件与谷歌(gē)的人(rén)工智(zhì)能服务生态(tài)系(xì)统紧密整合,从而使自己(jǐ)与众不同。事实上,芯片(piàn)、云培训、开(kāi)发工具等,也一直是谷歌人工智能服务的关键优(yōu)势。比如,Coral 就有一个专门(mén)服务硬件编译的人工智能模(mó)型库。
Coral 与谷歌的人工(gōng)智能生态系统(tǒng)紧密结(jié)合(hé),以(yǐ)至于(yú)基于 TPU 的边(biān)缘硬件只(zhī)能(néng)与(yǔ)谷歌(gē)的机器(qì)学习框架 TensorFlow 兼容,对于市场潜在用户来说,这些(xiē)深度绑定可能会适得其反。
Kneron 在接(jiē)受媒体采(cǎi)访(fǎng)时曾表示,尽(jìn)管(guǎn)谷(gǔ)歌进入这个市场验证并推动(dòng)了这个(gè)领域的创(chuàng)新,但(dàn)是,Coral 产品专为谷歌平台设计,而他们(men)的(de)产品支持市场上所有主(zhǔ)要(yào) AI 框架和模型。
可以(yǐ)肯定的是,谷歌肯定(dìng)不会像推(tuī)行(háng)云(yún)端(duān) AI 服务那样大力(lì)推广 Coral。一位熟(shú)悉(xī)内情的(de)消息人士告诉媒(méi)体,Coral 的大部分订单都(dōu)是某个(gè)组件 (例如 AI 加速器和(hé)开发板),只有(yǒu)少数客户以(yǐ)10K 份起购。
不(bú)过,在(zài)机(jī)器学习不可避免地从云端走(zǒu)向边缘的过程中,对谷歌来说,Coral 的吸引力不一定(dìng)是收入(rù),而是提供了有关人(rén)工智能如何应用到重要场景的信息与经验。