主頁 > 國內 > > 正文

亮亮視野AI研究所:在AR眼鏡改變世界之前,需要先改變AI

2020-06-17 | 來源: 互聯網 | 作者: 編輯 | 點擊:

AR眼鏡被認為是將取代手機的下一代移動終端,也許人與世界的交互方式將因此發生翻天覆地的變革。但是,在AR技術改變世界之前,我們需要先改變AI在眼鏡端的能力。作為AR眼鏡的大腦,AI賦予了AR更大的想象空間,但它能在眼鏡端自由馳騁的前提是跨過低功耗這道門檻。

為了打破這道業界公認的門檻,亮亮視野從 2016年初就開始布局 AI領域的技術研發,成為全球首家把主打視覺處理的VPU芯片應用在AR眼鏡終端設備上的公司,并且開創性地對VPU進行了從算法到加速引擎的底層改造,實現了計算能效比的大幅飛躍。作為這一領域的拓荒者,其產品也是目前屈指可數的真正實現AI在眼鏡端獨立運算、擁有全棧AI能力的產品。

行業命門

AI一思考,眼鏡就發燙?

近年來大展拳腳的AI技術用于 AR眼鏡這個終端后,被低功耗束住了手腳。

在電池技術取得突破性進展之前,可穿戴設備的續航和體驗很多時候是一對矛盾體。AR眼鏡要實現人與外界的完美交互,就必須實現輕量化。當然產品的功能是不能舍棄的,于是降低功耗成為必然選擇——當工程師們在以0.1克為單位縮減器件重量時,你不能容忍產品還帶著一塊熱得發燙的笨重電池。嚴苛的條件限制了AR眼鏡必須使用低功耗的AI系統。

一組數據可以直觀地說明移動端AI與云端AI設備的功耗懸殊:一般運行云端AI的設備功耗可達10W以上,算力可達10T FLOPs級,穿戴式AI的設備功耗一般在100毫瓦級,硬件算力僅有0.1T-1TFLOPs。而且前者一般允許1秒的延遲,后者由于實時交互的需要,一般只允許100毫秒級延遲。

雖然功耗低,但是AR眼鏡需要的計算量并不低,一款完美的AR眼鏡需要用到對話式人工智能、計算機視覺和其他復雜系統的組合,需要產生海量的計算。

AI一思考,眼鏡就發燙,這給AI工程師提出了一個新的課題:在一個體積小巧緊湊的AR眼鏡內部,如何以低功耗的模式實現高效的運算?這就需要AI芯片、計算引擎和算法全棧技術整合,極致提高AR眼鏡的計算能效比,從而能夠在低功耗的AR眼鏡上完美地運行AI算法。

亮亮視野獨家AI秘笈

VPU芯片鎮場+Laffe引擎加速

因為要與人互動,AR眼鏡的AI系統通常要能實時運行神經網絡模型,而運行神經網絡模型繞不開密集的計算。傳統的CPU芯片不是為了解決計算密集問題設計的,計算能效比很低。為了解決這一問題,為AR設備選擇一款計算能效比出色的端AI芯片就顯得十分重要。

主打視覺處理加速的VPU平臺的出現為AR眼鏡上的神經網絡計算提供了硬件基礎。亮亮視野成為第一個吃螃蟹的人,率先將Movidius Myriad 2芯片應用于智能AR眼鏡終端,這顆只有9.5mm8mm的VPU擁有相對傳統CPU架構5倍的計算能效比。目前這顆VPU已升級到Movidius Myriad X,可提供每秒萬億次的計算性能,功耗不到1W。

但僅靠VPU硬件提升計算能效比還不夠。盡管Movidius VPU硬件相對成熟,但其工具軟件鏈不成熟,一些關鍵算子的運算效率較低。亮亮視野團隊基于Movidius VPU硬件自主研發了Laffe引擎,對關鍵算子進行匯編級優化,部分算子比Intel官方實現速度快了2-10倍不等。采用VPU硬件和Laffe引擎軟件加速,亮亮視野獲得了相對于CPU的15倍計算能效比提升。

亮亮視野獨家AI秘笈

深度學習算法優化,極致提升計算能效比

數據、算法和算力,是促成AI覺醒的三大基礎條件。為了讓AI高效運轉,除了提升算力以外,追求高效率算法模型是解決問題的關鍵。

近年來深度學習在計算機視覺領域的應用極為成功,已經成為AR眼鏡產品的標配。隨著深度學習算法的性能提升,主流深度神經網絡的規模也變得越來越大。但從計算能效比的角度來看,單純依靠增大神經網絡規模獲取算法性能提升很不劃算,往往算法模型計算量提升10倍只能獲取用戶感知不明顯的不足1個百分點的性能提升。對深度學習的研究表明,較大的深度神經網絡模型一般存在較大冗余,可以對冗余的算法模型進行壓縮而基本不降低算法的性能,從而可以在算法層面提升計算能效比。

亮亮視野團隊采用剪枝、蒸餾等技術對冗余的算法模型進行壓縮。依托VPU和Laffe框架,利用神經網絡壓縮技術,再對具體算法loss函數輔以針對性改進,亮亮視野團隊實現了AR眼鏡上計算能效比的大幅提升。以人臉識別算法體系為例,亮亮視野團隊一共約取得了相對CPU計算基準的50倍計算能效比的提升,從而在低功耗的AR眼鏡上實現了AI算法實時運行。

低功耗、眼鏡端獨立運算、全棧AI

亮亮視野誕生殺手級AR+AI智能眼鏡

正如Facebook AI研究院首席AI科學家Yann LeCun所說:AR眼鏡有望成為機器學習低功耗從業者的理想挑戰目標,因為它涉及許多尚未解決的問題。在低功耗的AR眼鏡里實現高效的AI運算,頗有些螺獅殼里做道場的意味。亮亮視野已經成為這一領域的第一個拓荒者。

得益于出色的AI能力和光學設計,亮亮視野的AR設備完美實現了低功耗環境下的高效運行。如上文所述,AI計算獲得了相對CPU的50倍計算能效比的提升,而使用L-PAT光波導技術的AR設備的續航時間是其他光學顯示方案的6-10倍。以GLXSS ME在智能手機上的實際測試數據為例,手機+眼鏡的續航時間與手機原生續航時間之間的差距非常小。

不同于多數AR終端設備將AI計算平臺放在云端處理,亮亮視野的產品真正實現了從目標檢測、追蹤到識別,所有AI計算都部署在眼鏡終端運行。以多人臉動態識別為例,這樣部署計算能夠保證即使在通信網絡中斷的情況下,AR眼鏡仍能通過完全離線的方式執行人臉識別等基礎任務,響應時間在毫秒級別。

另外,亮亮視野很早就明確了自主研發的基調,目前AI團隊已申請6項發明專利。從對計算平臺進行的優化,到從算法模型訓練、推理和應用,亮亮視野摸索出了一套行之有效的AI方法論,為要求嚴苛的穿戴式產品提供極致的端到端的體驗,實現了全棧AI能力。

從安防場景的前端識別到工業場景的泛在邊緣計算,目前,亮亮視野的AI應用也受到廣泛的市場認可,并且在與中科院自動化所等科研機構展開積極合作。

接下來,亮亮視野AI團隊將繼續圍繞第一視角計算開展研發工作,為人類邁入下一個溝通紀元打下堅實基礎。



下一篇:下一篇:沒有了
吉泽明步一区二区三区视频_日韩a级无码免费_亚洲女同精品一区二区视频_久久久久中文字幕无码少妇