幾天前,，TensorFlow 開發(fā)者峰會在加利福尼亞州桑尼維爾的 Google 活動中心如期舉行,。Google 針對開發(fā)社區(qū)發(fā)布了 2 款開源機器學習框架和 3 款硬件開發(fā)設備，以擴大其 AI 產品和服務范圍,。

在軟件方面,，新發(fā)布的 4 款開源機器學習框架是：

• TensorFlow（2.0 Alpha）

• TensorFlow Lite（1.0）

TensorFlow 是全球最受歡迎的開源機器學習框架,，最初由谷歌大腦團隊開發(fā)，用于機器學習和深度神經網絡方面的研究,，但這個系統(tǒng)的通用性使其也可廣泛用于其他計算領域,。2015 年 11 月 9 日在 Apache 2.0 開源許可證下發(fā)布。

TensorFlow 可以理解為跑在云端服務器上的機器學習軟件,。TensorFlow 2.0 Alpha 提升了 TensorFlow 的易用性,、靈活性和可擴展性，旨在為開發(fā)者提供“開箱即用”的使用體驗,。

如今 AIoT（AI IoT）火遍大江南北,，國內各大公司競相采用為各自的戰(zhàn)略口號。過去跑在云端服務器的機器學習能力逐漸下沉到邊緣設備上（如手機,、汽車等移動設備）,，這種現(xiàn)象逐漸成為 AIoT 的一種流行趨勢，Google 也不能免俗,。要想將 AI 從云端打通到終端,，實現(xiàn)端云協(xié)同，在設計算法模型時,，需要考慮這些設備有沒有足夠的算力,，也就是說設備能提供多少計算資源、存儲資源和電池容量等,。TensorFlow Lite 則專為移動和物聯(lián)網設備而設計,，是 TensorFlow 的輕量級版本，它是開發(fā)人員在移動和物聯(lián)網設備上部署 AI 模型的框架,。

TensorFlow Lite 將 TensorFlow 訓練的 AI 模型轉換為在移動設備上執(zhí)行的 Lite 模型,。TensorFlow Lite（1.0）的改進包括使用各種技術以減小 AI 模型的大小，在不同硬件中提高模型推理速度,。

TensorFlow Lite 可以運行在 Raspberry Pi 和 Coral Dev Board 等設備上,，并支持 Android 和 iOS 操作系統(tǒng)。

目前 TensorFlow Lite 部署在超過 20 億臺設備上,，許多原生 Google 應用和服務都使用 TensorFlow Lite,，包括谷歌助手 Google Assistant、GBoard,、Google Photos,、AutoML 和 Nest。

對于一款優(yōu)秀的人工智能產品而言,，不僅在實時運行時能夠保持極短的延遲時間,，還能夠在離線情況下高速地進行模型推理并響應用戶操作。應用于 10 億設備的谷歌助手 Google Assistant 在響應用戶離線查詢時，所有的 CPU 模型計算都由 TensorFlow Lite 執(zhí)行,。另外,，累計擁有 8 億用戶的網易有道詞典，其圖片離線翻譯功能也采用了 TensorFlow Lite,，使 OCR 識別速度提升了 30%-40%,。

在硬件方面，Google 新發(fā)布的 3 款硬件開發(fā)設備是：

• Coral Dev Board 開發(fā)板

• Coral USB AI 推理加速器

• 500 萬像素相機配件

這 3 款設備是以 Google Coral 品牌推出的,，Coral Dev Board 開發(fā)板售價 149.99 美元,，Coral USB AI 推理加速器售價 74.99 美元，500 萬像素相機配件售價 24.99 美元,。

開發(fā)板和加速器均采用谷歌自家的 Edge TPU 芯片,，Edge TPU 僅有指甲蓋大小，專為運行 AI 模型而設計,。500 萬像素的相機配件是開發(fā)板的附加組件,。

Edge TPU 于 2018 年 7 月發(fā)布，它是 Google 專用的 ASIC 芯片,，旨在物聯(lián)網設備和邊緣設備上運行 TensorFlow Lite 模型,，即使設備沒有互聯(lián)網連接且電池容量有限。

當然,，開發(fā)板和加速器適用于 AI 推理,，即在邊緣設備上執(zhí)行機器學習的算法模型，而機器學習算法模型的訓練仍然需要 GPU 和云端服務器去完成,。

國際巨頭的 AIoT 布局

Google 在物聯(lián)網領域的起步相對較晚,，當亞馬遜、微軟,、IBM 等公司的物聯(lián)網進展地風風火火時,，“物聯(lián)網”一開始只存在于 Google 云平臺（Google Cloud Platform）的解決方案列表中，基于自身原有的云平臺組件,，Google 僅從技術角度拼湊出一套簡易的物聯(lián)網解決方案,，并沒有提出獨立的物聯(lián)網品牌。

直到 2017 年,，Google 才推出了 Google IoT Core 服務作為物聯(lián)網云平臺,。2018 年 Next 大會上,，Google 發(fā)布了搶攻物聯(lián)網邊緣計算的武器 Cloud IoT Edge 產品,，其包括 Edge IoT Core 和 Edge ML 兩個 Runtime 組件。在硬件方面,，Google 也同時推出了邊緣計算專用 AI 芯片 Edge TPU,。

反觀亞馬遜，早在 2015 下半年就率先發(fā)布亞馬遜 AWS IoT 平臺。2016 年底亞馬遜又推出 Greengrass 以提升邊緣運算能力,，Greengrass 由 Greengrass Core,、Greengrass SDK 與 IoT Device SDK 組成，便于物聯(lián)網設備在本地執(zhí)行運算,、傳輸,、數(shù)據同步等操作。亞馬遜緊接著于 2017 年底推出 Amazon FreeRTOS 操作系統(tǒng),，適用于小型低功耗的邊緣設備進行編程,、部署、連接與管理,。最新一代的亞馬遜 Greengrass 也加入了機器學習推理功能,，在云端訓練的模型可在邊緣設備進行執(zhí)行。

微軟在 2015 年 10 月的 Azure Con 技術大會上正式發(fā)布了 Azure 物聯(lián)網套件——Azure IoT Suite,，其功能組件包括 IoT Hub,，Event Hub（事件中心），Stream Analytics（數(shù)據流分析）,，Azure ML（機器學習）,，Azure Functions，Document DB 和 Power BI,，另外微軟還推出了 Windows 10 IoT Core 操作系統(tǒng),、Azure IoT Edge 邊緣計算托管服務和 Azure Sphere 物聯(lián)網安全解決方案。

阿里巴巴于 2018 年 3 月底舉行的深圳云棲大會間,，宣布物聯(lián)網成為電商,、物流、金融與云計算后的第五賽道,，同時設定未來 5 年將連接 100 億臺設備的目標,。阿里云緊接亞馬遜的腳步，于 2016 年發(fā)布協(xié)助物聯(lián)網開發(fā)者進行客制化物聯(lián)網解決方案的物聯(lián)網套件,，主要功能包括設備接入阿里云,、設備管理、設備安全,、儲存數(shù)據與規(guī)則引擎導入,。2017 下半年阿里云再次推出 Link 物聯(lián)網云平臺和 AliOS Things 物聯(lián)網操作系統(tǒng)。Link 物聯(lián)網平臺最主要目標是將物聯(lián)網平臺,、物聯(lián)網市場與物聯(lián)網標準緊密結合,，讓物聯(lián)網基礎建設更全面，并朝向垂直應用領域發(fā)展,。

AIoT 在端云協(xié)同方面的趨勢逐漸顯現(xiàn)

縱觀國內外巨頭在物聯(lián)網領域的實踐,，可以看出,，AIoT 的落地需要經歷兩個階段。第一個階段發(fā)生在云端,，通過收集大量數(shù)據進行訓練模型和推理,，以智能音響為例，其遠場語音識別和語義理解均在云端進行,。隨著 AI 算力在邊緣設備上逐漸增強,，AI 應用開始從云端向邊緣下沉，因此第二個階段發(fā)生在終端,，AI 應用會逐漸從云端走向終端,，形成云端進行模型訓練、終端進行模型推理的模式,，最典型的案例就是手機的 AI 拍照,。

Google 此次發(fā)布的開發(fā)板和加速器都支持其輕量級版本 AI 框架 TensorFlow Lite。Google 同時推出互相搭配的 AI 軟件開發(fā)框架和 AI 硬件開發(fā)工具,，這些產品使 Google 成為唯一一家擁有集成軟件和定制硬件堆棧的云服務提供商,。

從服務器、邊緣設備,、終端設備再到芯片,，通過 TensorFlow 標準化的交換格式和開放 API，實現(xiàn)平臺和組件間的兼容性和一致性,，以支持更多的運行平臺和開發(fā)語言,，顯然，Google 是采用了軟硬一體化的策略,，繼續(xù)發(fā)力邊緣計算,，將其強大的計算能力從云端貫通到終端，期望在 AIoT 的道路上走得更遠,。

【End】