欧美午夜精品-免费在线观看高清影视网站-999免费视频-韩国久久久-在线中文av-1024欧美-在线啪-成人影片在线-秋霞在线观看秋-国产精品国产三级国产专区52-国产在线高清视频-国产999在线-国产白拍-毛片在哪里看-日韩视频h-欧美日韩一区精品-在线只有精品-插插插色综合-成年人看的毛片-毛片av免费

萊迪思亞太區資深事業發展經理陳英仁:加速網絡邊緣AI應用 萊迪思引領大眾市場 IoT革命

萊迪思亞太區資深事業發展經理陳英仁:加速網絡邊緣AI應用 萊迪思引領大眾市場 IoT革命

陳加樂 / 2018-05-24 10:4298986

在5月22日,萊迪思半導體在上海召開Lattice新品發布會,在會上發布了一個全新的產品——sensAI。它是一種結合模塊化硬件套件、神經網絡IP核、軟件工具、參考設計、定制化設計與服務的完整技術集合,旨在將機器學習推理加快大眾市場 IoT 應用。它可以讓客戶快速簡易上手,簡便地在萊迪思的FPGA里做計算,尤其是在網絡編程方面。

在會上,萊迪思半導體亞太區資深事業發展經理陳英仁先生與眾多記者一起分享了Lattice sensAI開發生態系統開發過程,也對記者的一些疑惑進行答疑,以下是群訪實錄:

記者:這個是否屬于3D的人臉識別?  

陳英仁:不是。假如說做的更精確的話,它其實需要更大的性能,所以我們也提供剛剛講的UltraPlus跟ECP5。假如要做到3D的話,其實不是不可以,只是說3D只是在于它的結構包怎么連接到我們的FPGA,然后我們去做各種各樣的訓練,訓練出來,我們還是可以提供一個3D方案。其實我們不局限在2D或3D,任何數據做了訓練以后,其實我們是都可以去檢測的。只是說在這個演示上,它不是做3D的。

記者: 3D的ECP5需要用到這個芯片嗎?   

陳英仁:3D的話,其實也要看一看整體的性能。我們現在在UltraPlus里面,它只需要32×32的像素就可以做人臉檢測。其實它并不太能看到一些細節,它只是判斷“有沒有人在前面”。假如是做到結構中的話,它可能要看的更清楚;就像蘋果這一塊,它要做到一個安全系數,所以他的性能要求就相對要高很多。

記者:關于Lattice硬件平臺,iCE40和ECP5用于sensAI上,是不是就加入一些新的算法,是這樣的一種改變嗎?

陳英仁: 關于iCE40 UltraPlus跟ECP5,現在是通過sensAI,可以加入新的算法,的確是這樣子。Lattice iCE40 UltraPlus跟ECP5已經出來一年多了。因為是空白片所以里面基本上要去做什么運算都可以。可是剛剛提到,很多客戶可能對于FPGA的設計不是很熟悉。怎么樣去做一個有效率、低功耗的AI會是很困難的。所以通過Lattice sensAI,我們提供了BNN IP和CNN IP再體驗以及優化,然后我們再提供工具鏈,可以讓客戶把他已經訓練好的模型,或者基本上任何的數據、樣本,通過CaffeTensorFlow進行訓練以后,它就有這個算法。比如說,我們現在有很多“你好”這樣子的樣本,通過這個訓練以后,我的FPGA就可以偵測“你好”。

我順便講一下AI的背景。其實AI說穿了,它是一個新的算法。傳統的算法是靠規則的。以前大家的算法是用規則型的方法去做一個算法。可是AI更多時候是靠資料跟樣本。也就是說,給我一些資料,我就可以有一種算法。然后假如我的樣本資料有更新的話,我們的算法也會越來越精準。它的好處,也是有些客戶可能不知道怎么樣去設置傳統的這種不同規則,可是我現在只要有足夠樣本就可以達到我要的推理。假如有很多的“你好”這樣子的樣本可以偵測,可是假如我說的不是“你好”是“李浩”這樣的一個名字,它不會反應。其實就像一個小孩一樣,我一直叫他:李浩,你好,你好。可是他第一次聽到“李浩”的時候,他可能也會說:啊,你在講你好?可是假如我是用一個AI方式的話,我只要在跟它訓練,說:李浩,李浩,李浩,不是你好。它就可以區別出來。也就是說,只要我有足夠的樣本去描述我要檢測的是什么,還有同樣很多的樣本去跟我的AI描述:這個很像但是不是的話,它就可以學習出來變成一個算法。

像這個demo,昨天我也試了一下。它不只是可以偵測人臉,我把它對著一個猴子的照片,它也會偵測到。其實這就是AI。就是看你多少樣本以及它的訓練程度。假如說我給它很多猴子的照片,說:這不是人臉。那么它就會變得這樣聰明。所以你可以想像,小孩子你一直教他:“這是你、這是你、這是你。” 他發現你在看一個猴子或者甚至狗、貓的照片,他可能不能準確判斷是不是自己。所以你要給它更多的資料,才知道“什么是人臉,什么不是人臉”,這就是AI最基礎的新概念,它可以用數據和樣本來去做到這樣的算法。

記者:senAI是不是也集成了終端傳感?

陳英仁:我們已經有很多的傳感器在上面,甚至可以把sensAI這個功能放進去。因為我們的FPGA是空白頁。看放不放的下,就是看一看我們新引進的這些有多大。 因為我們sensAI可能占一些我們FPGA資源。假如是像我們客戶只要在用ECP5的,我們ECP5基本上它是從最小的12k到最大的是150k。反正我們的邏輯從十幾K到幾十K,甚至到百K這樣子的情況下,它是非常有彈性的。在客戶現有的應用場景下,通常來講它不會用龐大的。但要把整個sensAI加進去也是可以的。

在UltraPlus的話,因為我們EA的算法,基本上占了UltraPlus的大部分。當然我們接下來也會陸陸續續地開低功耗的iCE40系列,到時候這就不是問題了。

記者:是不是客戶本來對你們的 iCE40 等開發工具已經比較熟悉才能在一些工具上進行如FPGA的二次開發?如果說對FPGA或者開發工具不是很熟,你們提供的神經網絡編譯器是一個新的相當于你們自己開發的工具,還是第三方提供的?

陳英仁:我先回答最后一個問題。“神經網絡編譯器”是我們自己獨立開發的,只是這個神經網絡編譯器是做了一個轉換。因為很多人在做神經網絡訓練的時候,它是用大家比較公認開源的方式,像剛剛提到的TensorFlow跟Caffe。而TensorFlow跟Caffe不是我們開發的,只是從我們綁定了一個輸出,通過我們開發的這個編譯器可以去做這個轉換,變成適合我們的FPGA,搭配我們的IP使用。

再回到第一個問題,所以假如要用到我們sensAI的這個IP,對我們的工具需不需要熟悉?應該這樣講,其實要涉及FPGA,基本上要懂得怎么使用工具,使用工具相對還算是比較容易,因為基本上都是一個菜單,然后去選一些東西。其實比較難的是怎么去寫所謂的應用描述語言。這一塊怎么去寫?畢竟它是個新的語言。甚至寫什么?這個算法是更難的。所以我們的SensAI提供了這個IP以后,客戶就不用擔心怎么去做AI的算法描述,尤其是用硬件語言去寫。他可以用我們的工具操作一下,就可以設計出來。將設計門檻大大的降低與減化,可是這個客戶可能對這個FPGA不熟,但是我們可以教他怎么用我們的工具,他就可以把計算在我們的FPGA實現。

記者:在接觸顧客當中,哪些用戶在產品導入AI的需求會比較強烈?現在是否已有一些客戶用sensAI在做產品開發?

陳英仁:我們sensAI是這個禮拜才正式發布,當然在之前我們也是有一些初級客戶,主要是在歐美,他們對我們低功耗的新產品是非常滿意的,因為他發現了FPGA的確可以在這種瓦級的情況下去做更多處理,所以是有客戶去使用。但是實際的利用范圍,這里就不方便透露了。主要還是在影像跟聲音這方面有關。

其實剛剛提到AI是一個新的算法,在計算的話;要么可以在云端做,要么可以在邊緣、終端做。只是說現在其實最大的一個推動力,我想也是在IoT。因為大家一直講IoT,可是有那么多的數據以后,怎么辦?就像大家假如可以看到很多東西,可是沒有辦法去做思考的時候,這些數據其實是沒有意義的。所以AI配上IoT以后,它會是讓整體的使用方便性增加。

我有這些資料,我有這些樣本以后,就可以去提供更多的服務。所以很多的IoT客戶以及傳感器客戶,可能都會去朝“智能傳感器”方向做。大家可能最近也有聽到“智能麥克風”,它可能已經內嵌了所謂的“語音識別”。影像傳感器同樣的,很多人可能說:我現在就直接偵測,這是不是一個人在里面。所以這些客戶或者是使用者都會喜歡增加這些智能功能在里面。

記者:現在有好多的MCU廠商,他們說:最大的問題是客戶不知道怎么做人工智能,怎么做訓練。您不是也是這樣認為?而且我也訪問了地平線這樣的公司,它們都是“芯片+算法”,跟您這個“芯片+加速器”會有什么區別嗎?

陳英仁:先回到訓練這一塊。其實AI是一個比較新的領域,所以大家也在學習怎么去訓練。其實現在網絡上已經有很多課程,怎么去理解AI普通的、自然的算法。剛剛講的,大家最常見的是像Caffe和Tensor這樣的設計流程。其實的確,這些新的是要花時間去教育客戶的。我們sensAI的優勢是我們不用去學AI,然后還要再去學怎么設計FPGA,至少FPGA的部分可以不用再去擔心了。但是客戶還是要聽到AI的本質和它的設計流程,當然的確這也是一個問題,所以我們才會有最早的一些生態環境的伙伴,就算客戶不懂AI,我們也可以幫他們去找對這個比較熟悉的合作伙伴提供比較完整的方案。

其實算法這一塊,算法到底是AI的模型,還是它完整的算法。比如:像我們的參考設計和演示,它已經是訓練好的。但是說真的,我們不是一個終端方案的提供商,我們這一塊是去找第三方,有足夠的樣本,可以很清楚地演示。

但是也要看做到什么程度。因為畢竟開發IC的廠商,跟足夠樣本去做訓練,畢竟還是有差別的,。當然,我們一開始,因為發覺“人臉偵測”是一個非常比較常見的很實用的方案,所以我們在上面是花了一點工夫。我們也認為,我們現在的人臉偵測,是可以讓客戶直接拿去用的。只是說在其它的訓練方法上,相比于一個完整的方案,我們提供的更多是一個流程,讓客戶有自己的樣本去做這個訓練。其實之前講過,為什么大家都要數據?數據值錢,就是因為通過AI,它可以變成一個算法。

記者:現在AI工程師的工資很高,。比如,好多業內工作二三十年的都沒有剛畢業的大學生的工資高。你們有什么方法,消除這樣的門檻呢?

陳英仁:我想AI本身它自己就可以把這個門檻降低了。因為傳統算法的做法,是要去講這些規則,工程師就要把這些規則描述的很清楚。可是AI的出現使得我們只用需要樣本就好了。所以現在工程師可能不需要太花時間專注在算法上,他只要拿得到樣本,或者就去拿樣本;我想大家最近可能也聽到一些消息,中國也有;尤其是印度,其實現在有一個新興行業,就是他們去做標記,標記圖像、標記聲音,然后把這些標記過的樣本再賣出來。透過這些樣本,它本身就可以變成一個算法。

記者:剛剛也提到,您剛剛在演講中也有提到,我們為客戶提供了一些定制化的設計服務。我看PPT上有人臉識別、關鍵詞檢索、面部追蹤等五個方向,是在這五個方向我們都可以定制化服務嗎?

陳英仁:不是。其實我們這五個方向上基本上是一個參考設計跟演示,可以讓客戶知道AI可以應用在哪里。 假如是要能定制化的話,只要客戶對這一塊完全不熟悉,甚至沒有樣本;這個就需要我們提到的合作伙伴生態環境、生態鏈,我們會去介紹一些我們Lattice的工具跟一些熟悉Lattice工具鏈的伙伴們,然后他們可以提供一些定制化的服務。

記者:Lattice提供這個產品主要是讓已經使用FPGA的人擁有更好的體驗?還是說我們要不斷的去擴充這個領域?比如說之前使用MCU的人讓他更多的加入到這個陣營。我覺得MCU和FPGA相比的話,可能想到的就是FPGA比較難,想到MCU就是開發比較簡單,您怎么看待這個問題? 

陳英仁:我們sensAI的確就是把這個問題解決了,我們sensAI不只是針對傳統的這些客戶,還有希望更多新的客戶可以直接用FPGA來實現,就算他不熟悉、他也可以實現,甚至在某方面來講優于MCU。畢竟MCU它在處理AI這部分,它可能不是那么有效率,因為它的功耗相對比較高。所以當客戶考慮到要做AI的時候,我覺得FPGA現在是比較合適的,而且設計可能還不再是個問題。回到傳統已經用的一些客戶,因為他們已經熟悉了我們可能在一些過程橋接和連接的技術,我們現在提供了做整個計算的方法,所以現在他們可以有更多的選擇,然后更容易上手。

記者:采用Lattice工具的人工智能的邊緣應用大概需要多久時間可以實現或切入呢?

陳英仁:我自己認為是很快吧。要去熟悉我們怎么用我們的工具,大概是一個禮拜。怎么去實現,這就需要一個開發周期。可能一周左右,熟悉怎么訓練和轉換,以及整個系統的設計。我再補充一下MCU跟FPGA的差別,比如說一個智能的門鈴。我很多時候可能已經有一個門鈴了,它只是沒有這個智能。當我們把這個智能放進去,因為如果我要重新布一個完整的智能門鈴可能是一個大改。可是更多的時候,客戶可能是說:我現在東西已經有了,我只是去偵測。假如說MCU的話,它可能用一個全新的MCU放在旁邊,雖然它可以偵測到,它怎么把這個結果傳遞給它原來的系統,這個會比較復雜。我們的FPGA就是專門解決 “接口” 的問題,假如他們原來的系統是有人的話,你這邊只要給一個信號,或者給我兩個信號、三個信號,無所謂,我們的FPGA都可以去負責調整。回到您這個問題,客戶想要這樣子做,可是對于結果端不熟悉。沒有關系,我們非常熟悉,接口上面的問題,我們很多時候可以幫助客戶解決。

記者:現在大家對智能終端的認識,大多數還是停留在音響這些類似的消費市場。反倒在工業層面,很少有人有見解。您怎么看AI在整個過程中的應用。 

陳英仁:我先講一下智能終端的應用場景,當然不局限在家居。比如:一些關鍵字、聲音檢測。它可能檢測出尖叫聲、墻聲、玻璃打碎的聲音,所以我們就可以在一些安防監控或者其它地方去做一些大內容。所以其實應該說,畢竟AI是新的一個算法,它現在可以用樣本就可以算出來,簡化了以前做算法的門檻。所以大家現在比較思考的是,她可以應用在哪里。所以剛剛講的這只是其中一種,這些可能都是常見的接下來會蓬勃發展的應用。其實大家還在思考,怎么樣應用AI讓生活更簡潔、更簡單。

我們的產品才剛剛推出,所以產品化需要一定時間。其實有些照相功能也是一種AI。有些照相手機,可以大概判斷照相場景是什么,然后去做優化。如何判斷照相時的場景?累積很多樣本并進行訓練。知道這是晚上,所以相應地做優化調整;現在的照相對象是人,就會做美白和變瘦。有很多的自動化來提供方便性,這基本上就是AI的一種表達。在工業類是效率,就是用一個機器去做自動化。

記者:現在萊迪思還是會主攻消費類產品? 

陳英仁: 我們不會只做消費類的,其實工業類也關注,只是它們需要花費較長時間。工業類現在就要開始耕耘,只是可能要兩年才會起來,消費類的會比較快。

至于萊迪思和微軟的交集,其實交集不是那么密切。因為微軟主要是“云端”,如果是在邊緣的話,應該是和網絡端的互聯。

再說“處理”。處理會不會變?為什么要在單一的地方處理?因為這個東西都是來來回回的,很多人說:要在云端處理,然后變成集中式處理。很多的產品架構,很多時候是集中處理,然后過一段時間會做分布式處理。其實沒有一個所謂哪個更好,主要取決于業務場景。

我們其實現在看的就是分布式處理,分布式處理可以在云端,也可能在盒子身邊。我們主要還是在傳感器。這樣更有效率地去處理一個數據,除去因為利益發展而導致的隱私權問題。因為在微軟里面,比如是在更上端或者再處理化,基本上收集的數據肯定提高到這里了。那么,終端客戶會不會擔心他的隱私全外露之類的。所以整個要看業務場景,到底什么樣的合適。

記者:所以萊迪思只管“端”,不需要搭載生態環境?

陳英仁:也不能這樣說。假如我是一個工匠,說不定我不用大腦思考,我的手就可以看到什么東西就馬上有一個反應,所以還是一個分布式的效率,這是一個整體上的布局。

記者:說到“智能門鎖”,因為很多MCU廠商也在做門鎖。你們跟他們比,有什么優勢呢?   

陳英仁: 智能門鎖現在做紅外的相對少。智能門鈴的話,會去做一些偵測。因為智能門鎖,將來就是偵測指紋。那個其實也不用什么智能,我們現在的意思就是說:像我家的鎖,我本來要在鍵盤上按一個指紋。指紋正確了外殼才會升起來,然后才會進來。現在假如我加了一個攝像頭以后,我只要靠近,它就自己上來了。

假如用紅外攝像頭,然后人說不定走過一移動,紅外就會監測到,這樣并不好用。我現在在家里,最讓我覺得比較怪怪的是,由于我家的廁所比較小。我只要一靠近馬桶,馬桶蓋就自動打開。可是很多時候我不是需要上廁所,很多時候是刷牙或者是洗手,這個蓋就開了。但是只要加入一個低延遲,當然我要看一看它怎么去偵測,要識別什么地方,才會開馬桶蓋。這樣的話,可能就會更智能、更方便。

記者:您對于國內的AI芯片公司評價是如何的?很多人都認為從政府騙錢或者圈錢,炒作。您覺得您做的是不是實實在在的,或者說他們做的是不是估值有點太高了?比如:像深鑒科技這些,他們今年要上市,基于賽靈思的FPGA做的。

陳英仁: 我想別的廠商我不方便說,只能說“AI的確是一個方向”,以AI去運作投入,的確是沒錯。到底他們怎么做,或者他們做的手段是什么?這個不知道。但AI是一個非常重要的領域。

我想目前的話,我們也會參考客戶的反饋。當下,萊迪思就是在定位“低功耗”,然后傳感器端這樣的一個DNN跟CNN處理。隨著我們客戶提供反饋,會有不同的硬件跟軟件的開發。當然,我還想再補充一下,我們的優勢是可以在現有設計不做太大的改變情況之下,我們會持續地更新,這也是我們另外一個特性。

我們也會密切地關注,還要再去做什么樣新的功能,或者是要改什么方向。不過我覺得大方向的話,應該不會再做太大的改變。因為畢竟我們的性能、我們的定位,我們的功耗跟價錢,跟其它家的FPGA廠商是有明確區別的。

因為我們畢竟在正式推出這個東西之前,我們是找一些客戶,得到反饋,然后做優化。中國客戶的話,之前有接觸到一些,可是畢竟中國客戶對于AI這個流程畢竟了解得比較晚一些,而且我們沒有正式的發表過,所以這一塊,我想在接下來幾個月應該會有些發展。其實還是回到樣本,因為其實很多客戶沒有樣本和數據,就比較難去應用整個的這樣一個供給,所以我們再看一看生態環境已經建立起來。所以對于一些“云”方案商他有這些樣本,所以我們看怎么通過他們,然后一起可以提供比較完整的方案。

記者:您剛才有提到AI有兩個非常重要的部分,一個是“實驗”,一個是“推理”。我們為客戶提供了神經網絡編譯器,有在幫客戶做訓練模型。還有就是幫助一些沒有經驗的客戶將這個標準框架開發的神經網絡移植到我們的這個FPGA中。我想問一下,在推理這方面,我們是否可以去幫助客戶有一些方案,以及未來是否在這方面有一些計劃?

陳英仁:整體AI架構是需要訓練跟推理的,我們的FPGA專注在推理這方面。可是說通過推理,那么訓練怎么辦。訓練的話,我們是提供軟件、工具鏈,讓客戶有效率地訓練。可是訓練出來的東西,還是放在我們FPGA上面做推理。我們的FPGA是強項,就是低功耗、小封裝、低延時、低單價,所以用我們做出來的方案會是符合低延時、低功耗、小封裝、低單價。這就是我們的方便性和方便的接口。所以說最終還是在推理端,只是說訓練端它是一個設計,我們有工具鏈降低設計的門檻,可是設計還是在PC或者是在客戶端的別的系統去做,和萊迪思的FPGA沒有直接的關系。

記者:如果要跟華為合作,數據都開放給華為,結果他自己的團隊又做出來了,提供一個完整方案,他們是這么一個思路。

陳英仁:的確,我們看到國內有很多的廠商是要一個“完整方案”。國外很多時候,你給他一個工具,他自己去做。我們也在看怎么符合國內的需求。現在我們只要去找到樣本,就可以提供一個算法。所以至少門檻降低了一半,現在我們就去看一看樣本,然后可以跟我們一起合作提供整個解決方案。因為假如是做一個偵測,Lattice不擅長收集這方面的樣本,所以這一塊,就是我們的一個很大的挑戰,就會去找第三方,看看怎么去做。所以為什么我覺得國內廠商也會看到說:他的核心有以前的算法,現在的核心可能不是直接的算法,而是你有沒有你要偵測的樣本,有沒有這些數據。

記者:加速方法都不統一,各家芯片也不一樣,所以AI起不來? 

陳英仁:后面的工具、模型很不統一,可是AI的概念還是統一的。其實后面的只是怎么去執行,收集標記過的數據的話,它是非常支持的。有了標記后的數據后,就可以去做訓練,然后接下來會推理。所以其實也就是因為AI這樣的一個演變,當你的數據以后使用FPGA或MCU,門檻就沒有差很多。


發表評論注冊|