“我們的AI芯片設計出來了，但是沒多少人能用起來?！边@是兩三年前端側AI芯片CEO們的煩惱。

“面對十多款端側AI芯片，選型就是一個難題?！币晃籄I應用的開發(fā)者在2022年依舊面對的難題是，“即便最終做了選擇，面對上千頁的開發(fā)手冊，學習和開發(fā)門檻都很高?！?/p>

與云端AI面臨的挑戰(zhàn)類似，邊緣和端側AI軟硬件的成熟度以及軟硬的融合很大程度上阻礙了AI的普及，降低AI開發(fā)門檻，提升通用性成為了AI普及的當務之急。

當然，技術挑戰(zhàn)還不是卡住端側和邊緣AI普及的唯一原因，商業(yè)層面也面臨諸多挑戰(zhàn)，比如應用場景眾多，如何在眾多的應用場景中形成一個良好的商業(yè)閉環(huán)？如何讓傳統(tǒng)行業(yè)也能輕松用上AI技術？

這其中，非常關鍵的一點就是提供打動消費者的使用體驗。曾經火爆一時的智能音箱已經證明，不佳的使用體驗只會讓消費者迅速對新技術感到失望。要實現良好的AI產品用戶體驗，多傳感器融合以及多種AI技術的應用成為了未來的發(fā)展方向。

那么，云邊協(xié)同能否加速端側AI普及？

端側AI的三道檻

在智能音箱爆發(fā)的2018年，智能音箱里并沒有用于實現AI功能的專用芯片，AI的算法也并不成熟，再加上整個行業(yè)的低價惡性競爭，體驗不佳的智能音箱讓眾多嘗鮮者很快放棄了這一AI“爆品”。

智能音箱非常好地反映出了端側AI普及面臨硬件、算法以及應用需求多樣的三道檻。

這一次AI的浪潮得益于深度學習技術的發(fā)展，新的AI算法對算力提出了更高要求，促進了眾多設計專用AI芯片公司的誕生，2016年左右涌現了大量AI芯片公司，這些公司的產品在2018年左右陸續(xù)推出。

2018年推出全球第一顆量產RISC-V商用邊緣AI芯片，并出貨了上百萬顆芯片，2021年推出第二代AI芯片勘智K510的嘉楠科技對于AI的發(fā)展和應用頗有感觸。

嘉楠科技副總裁湯煒偉對雷峰網(公眾號：雷峰網)表示，“我們的第二代勘智K510的AI算力已經達到3TOPS，AI的硬件正在通過迭代成熟，工具鏈依舊有比較多的挑戰(zhàn)?！?/p>

芯片的工具鏈很長，大體上可以分為前端和后端，前端的工具鏈主要做算法的優(yōu)化，比如壓縮、融合等，后端的工具主要負責調用芯片。

運行于芯片上的算法，則是邊緣和端側AI普及的第二道檻。

“針對端側AI的算法太少，這直接導致了許多AI硬件沒辦法用起來。”一位AI從業(yè)者如此看待AI算法與AI普及的關系。

湯煒偉認為，“這個說法有道理，但不全面，算法肯定是影響最終效果和體驗的因素，但算法不夠好可能是因為應用場景太小沒人愿意投入，或者那個場景的數據難以獲取，增加了算法提升的難度?！?/p>

“AI算法從實驗室環(huán)境到實際應用有非常多的挑戰(zhàn)，在真實場景中AI算法很容易受到各種環(huán)境的影響。我認為邊緣側AI的算法可以分為三類。”湯煒偉表示。

一類算法是通用算法，比如圖像檢測和分割算法；一類是場景算法，比如人臉識別、人體姿態(tài)算法；還有一類是定制算法。

“AI算法的應用范圍越窄，在具體的場景中就越精準，效果更好。但同時也意味著它可能會導致用戶群體和體量更小?！睖珶槀フJ為。

邊緣和端側AI硬件和算法向前迭代的時候，就會遇到普及的第三道檻——應用多樣，需求不同。

從AI語音到AI視覺，從單傳感器到多傳感器融合的智能硬件，從工業(yè)到農業(yè)再到智能家居，邊緣AI的一大特點就是應用場景豐富，不同的應用場景對于芯片的性能和功耗，對于使用的算法的類型和精度，以及使用的場景都大不相同。此時，如果有一個通用的AI解決方案，將有助于AI的普及。

不過，湯煒偉認為，“短期內比較難有通用的AI解決方案，因為AI的算法還在不斷迭代。另外，端側和邊緣的AI硬件采用的是ASIC專用芯片，并沒有統(tǒng)一的標準，實現通用的AI解決方案難度比較大?！?/p>

實際上，邊緣和端側AI產品的開發(fā)當務之急是解決產品開發(fā)門檻高的問題。

云邊協(xié)同是AI普及良藥？

“十幾款可選的AI芯片，每一種芯片的工具鏈都不一樣，學習其中一種的門檻就很高，如何才能快速開發(fā)出AI產品？”這是AI開發(fā)者共同的難題。

芯片的選型無論對于中小型公司還是大型公司都是一個挑戰(zhàn)，中小型公司支持兩三個平臺就已經非常吃力了，大公司有能力投入進行細致篩選，但周期很長，要選出一個能夠長期合作的合作伙伴的難度也很大。

但無論選擇哪個硬件平臺，開發(fā)的門檻客觀存在。因為端側和邊緣AI設備的開發(fā)涉及嵌入式開發(fā)的AI開發(fā)，懂嵌入式開發(fā)或者AI開發(fā)的工程師本來就很少，更別說既懂嵌入式又懂AI開發(fā)的人。

這就非常考驗芯片公司的工具鏈和軟件平臺，有更加容易上手和高效的工具鏈實際上是所有AI芯片公司的核心競爭力。

“我們做軟件工具鏈的時候利用了開源的優(yōu)勢，嘉楠AI芯片的SDK和應用實例的各種軟件都已經開源，開源的好處在于新客戶可以直接看詳細的文檔，大大降低了客戶的使用難度，也降低了我們支持客戶的難度。”湯煒偉說，“開源也有利于大家一起協(xié)作創(chuàng)新?！?/p>

據雷峰網了解，一個公司評估了市場上四五家AI芯片的產品，最后因為工具鏈以及算法損失精度更小選擇了與嘉楠合作。

據湯煒偉介紹，嘉楠有自己開源工具鏈的溝通群，一群長期穩(wěn)定做軟件工具鏈的人能夠方便的在群里溝通，反饋問題，這對他們提升工具鏈有很大的幫助。

好用的工具鏈確實能降低開發(fā)難度，但對于許多缺乏開發(fā)能力的開發(fā)者，更低門檻的云邊一體的解決方案或許是更優(yōu)的選擇。

“今年上半年，我們合作伙伴的客戶說想要做一個云邊協(xié)同的應用，三方一拍即合一起做了一個大型的AI云邊協(xié)同應用?！睖珶槀フf。

這是一個海上漁船監(jiān)測系統(tǒng)的云邊協(xié)同AI解決方案，海上漁船本來就裝有一些包括攝像頭在內的多種檢測漁船狀態(tài)的傳感器，會接入邊緣網關進行數據處理，但由于漁船長期在海上，網絡信號并不穩(wěn)定，難以遠程即時了解漁船的狀態(tài)，漁船上的傳感器也不能協(xié)同實現一些智能化的功能。

嘉楠聯合AWS、智次方和客戶，給每艘漁船安裝上了基于K510的產品作為智能邊緣網關。有了這個智能邊緣網關，漁船上的攝像頭采集的視頻圖像就能借助K510的AI能力，進行本地圖像分析處理，對船員作業(yè)情況進行統(tǒng)計分析和識別，如果算法模型或者系統(tǒng)有迭代更新，可以在云端方便的控制進行更新。

同時，勘智K510上集成了AWS IoT Greengrass組件，可以簡化整個系統(tǒng)的部署和管理，即使整個系統(tǒng)管理的船只規(guī)模變大，行駛在不同的海域，通過云端管理平臺，都能及時的掌握設備的運行狀態(tài)，實現實時監(jiān)測系統(tǒng)的整體運行情況。

湯煒偉說，“傳統(tǒng)的AI應用受限于終端的計算能力和網絡條件，往往部署在云端，無論是處理及時性，還是系統(tǒng)運行成本，都有其弊端。隨著技術的進步，采用邊云協(xié)同的方案，可以充分利用云端靈活的管理系統(tǒng)和邊緣端不斷強大的計算能力，做到魚與熊掌兼得，正成為很多應用場景的優(yōu)選方案?！?/p>

云邊協(xié)同對于AI普及更重要的價值在于，“我們和AWS的合作已經搭建好了一套云邊協(xié)同的方案，已經提前做好了前期的開發(fā)和測試，客戶在使用的時候就像‘搭積木’一樣方便，除了海上漁船的應用，有許多客戶也計劃采用我們的云邊協(xié)同的方案?！睖珶槀ブ赋觥?/p>

云邊協(xié)同的AI解決方案對于包括像漁船、農業(yè)等傳統(tǒng)行業(yè)應用AI展現出了極大的價值，對于助推邊緣AI的普及，以及推動AI在更多領域的創(chuàng)新，都是一個顯著的推動力。

接下來的問題是，端側AI的機會在哪？

下一個端側AI的爆款產品

端側AI的上一個爆品，還是年出貨量不到5000萬的智能音箱。智能音箱之后，一直沒有看到端側AI的新爆品。

“端側AI的競爭實際上非常激烈。”湯煒偉說，“之所以智能音箱之后沒有現象級的單品，主要還是出貨量的級別不夠大，智能手機一年出貨近14億部，智能音箱高峰時候一年不到5000萬的出貨量，與智能手機相比差距很大，但相比許多終端AI產品的出貨量已經很高?！?/p>

目前看來，掃地機器人可能有智能音箱的趨勢，一年的出貨量可以達到2000-3000萬臺。

湯煒偉也同時指出了未來邊緣和終端AI智能產品的走向，他認為未來許多場景的AI產品不會只是用單純的視覺或語音方案，將會是多傳感器融合的產品，就像現在的智能門鎖一樣，既有指紋識別，也有人臉識別，還能用密碼，這將是未來AI邊緣和AI產品發(fā)展的趨勢，智能家居的產品也將受益于智能手機和安防技術的下沉。

當然，更好的云邊協(xié)同，也將讓更多行業(yè)和公司用上AI技術?！皩頃懈嘈袠I(yè)或者有應用場景的公司加AI能力解決實際問題。比如手機制造商，他們想做好攝影，就加入AI的算法，實現了比較多新的AI功能，實現了差異化?；蛘呶覀兒蛠嗰R遜合作的海上漁船監(jiān)控的解決方案?！睖珶槀フf。

AI是需要和場景進行結合的技術，能給傳統(tǒng)的行業(yè)帶來效率的提升甚至革命性的變革，也能創(chuàng)造全新的應用，這一進程正在加速。

雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。