日本在线看黄a美女久草|日本动漫亚洲在线一区|日韩人妻无码免费视频|A√有码中文字幕|日韩一级片视频热久久久|一区二区三区四区精品无码在线|亚洲AV成人无码一二三app|亚洲综合图片绯色|91极品人妻在线网站|国产成人精品一区二三区四区五区

您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
芯片 正文
發(fā)私信給吳優(yōu)
發(fā)送

0

AIGC “一夜爆紅”,我們需要什么樣的AI芯片?

本文作者: 吳優(yōu) 2023-03-06 15:08
導語:AI芯片的分工方式正在發(fā)生改變。

AIGC “一夜爆紅”,我們需要什么樣的AI芯片?

AI繪畫和ChatGPT的火爆,再一次引發(fā)行業(yè)內對AI的火熱討論。

ChatGPT僅僅推出兩個月,月活用戶就已經突破了1億,成為史上用戶增長速度最快的消費級應用程序,文生圖(text-to-image)也在僅僅兩個月內就從外國網友和中國極客手中的小眾黑科技快速移植到普通用戶都能觸手可及的小程序和手機APP中。

AI以嶄新的應用形式又一次刺激人類對科技的想象,但這些讓人興奮應用的體驗感依然沒有想象中絲滑,例如AI繪畫會畫出與主題完全不相干的圖片,ChatGPT也時常一本正經地胡說八道。

技術更新誕生新的應用,而新應用出現(xiàn)的問題往往又倒逼技術的升級更新,AIGC勢必也會在AI芯片領域掀起新的浪潮。

現(xiàn)象級AI引發(fā)范式變革,芯片算力需求井噴

如何理解AIGC?即一種AI生成式內用技術,讓AI完成原本只有人類才能做到的原創(chuàng)性工作,可以將其理解為是從PGC(專業(yè)生成)轉向UGC(用戶生成)之后的又一次內容生成的范式轉移。

事實上早在2014年,對抗生成網絡GAN(Gemerative)就已經能夠利用現(xiàn)有樣本生成新圖像,例如給GAN模型喂入大量的人臉數(shù)據(jù),便能生成真假難辨的人臉照片,比較常見的應用是我們在短視頻平臺中見到的“假笑特效”、“老人特效”、“讓老照片動起來”等視頻特效,但這一波不足以讓AIGC概念爆火。

直到有大模型、可控性、多模態(tài)等技術為AIGC賦能,AIGC才愈發(fā)走向成熟,終于有了更加出色的應用表現(xiàn)。

需要強調的是,對于AI而言,如何理解用戶輸入語言的含義是運作的關鍵,而AI對人類語言的理解主要基于被喂入的數(shù)據(jù)——被喂入的數(shù)據(jù)越多,理解能力越強,即模型越大,理解能力越強。這一點在ChatGPT上也得到了證明,其友好對話能力也是基于較新的GPT-3.5這一大規(guī)模的通用語言模型,通過對來自四面八方的大量文本進行訓練,從而產生類似人類的反應。

不巧的是,AIGC對大模型的訴求與GAN有許多相悖之處,例如GAN需要一個特定的數(shù)據(jù)集而不是大量的數(shù)據(jù)集進行學習,不能實現(xiàn)泛化使用。業(yè)界在嘗試基于GAN做文生圖的技術也時常出現(xiàn)描述文本缺失、分辨率低、難以理解高層次語義信息等問題。

不過這些問題在后來出現(xiàn)的Diffusion+ CLIP的技術結合中得到解決,前者通過多步生成圖片,且每一步都是一個自編碼器,從而保證訓練的穩(wěn)定性,后者負責圖文匹配驗證,以確保生成的圖片能夠符合文字描述。

探討支撐AIGC發(fā)展的主要技術,可以發(fā)現(xiàn),無論是AI繪畫還是ChatGPT的爆火,主要都是得益于深度學習模型方面的創(chuàng)新,不斷創(chuàng)新的算法、預訓練模型以及多模態(tài)等技術的融合推動了AIGC的變革,其所產生的商業(yè)價值潛力巨大。

2023年2月1日, Open AI率先一步嘗試商業(yè)化,推出了名為ChatGPT Plus的訂閱服務,每月收費20美元,訂閱的用戶可以獲得全天候的服務,并在高峰時段享有優(yōu)先訪問權,用戶不僅能夠提前使用新功能,同時應用的響應時間也會更快。Open AI 預計2023年,ChatGPT將實現(xiàn)2億美元的營收。而這也引發(fā)了一大批互聯(lián)網公司對ChatGPT的布局,繼谷歌獻上Bard之后,華為、百度、騰訊、阿里巴巴等頭部企業(yè)也都紛紛表示,已經擁有在研對標ChatGPT相關的模型及產品,致力于打造中國版ChatGPT。

2018年谷歌發(fā)布了基于Transformer機器學習方法的自然語言處理與訓練模型BERT,人工智能就進入大模型參數(shù)的預訓練模型時代,當下的預訓練模型參數(shù)數(shù)量、訓練數(shù)據(jù)模型正在按照每年300倍的趨勢增長,而人工智能硬件算力增長速度與模型計算量的增長速度存在萬倍差距。ChatGPT的出現(xiàn)與商業(yè)變現(xiàn),意味著模型計算量的增長速度將進一步加快,芯片算力需求出現(xiàn)井噴,不僅是對AI訓練芯片單點算力需求的提升,還包括對算力定制化、多元化需求的提升,甚至對數(shù)據(jù)傳輸速度也提出了更高的要求。

IDC預計,到2025年人工智能芯片市場規(guī)模將達到726億美元。目前每臺人工智能服務商普遍配置2個GPU,未來18個月,GPU、ASIC和FPGA的搭載率均會上升。通用性遞減、專用性增強是AI芯片的主要發(fā)展方向。國際大廠將越來越重視打造從云端訓練到終端響應的全套AI芯片生態(tài)體系。

AI芯片分工生變,云端推理加速轉移

據(jù)外媒semianalysis報道,ChatGPT每天在計算硬件方面的運營成本為694444美元,Open AI需要大約3617臺HGX A100服務器(28936個GPU)為ChatGPT提供服務。真正需要用云端芯片進行推理的需求增加,云端無法承受如此龐大的數(shù)據(jù)和工作量,如果能夠將AI云端芯片的處理工作向邊緣側轉移,或許將為大模型的訓練和推理釋放更多的計算空間。

與此同時,用戶需求也在改變著典型的AI芯片分工方式,一方面消費者希望保護個人數(shù)據(jù)隱私,即將終端數(shù)據(jù)保留在終端設備上,另一方面,消費者又需要可靠的數(shù)據(jù),并即時獲得處理結果,數(shù)據(jù)不斷從邊緣側產生,AI處理的重心正在持續(xù)向邊緣轉移。

AIGC “一夜爆紅”,我們需要什么樣的AI芯片?

因此,將推理工作轉移至邊緣側終端完成也成為不少企業(yè)為之努力的目標和趨勢。高通就在推升終端側的推理能力方面有著出色表現(xiàn)。

雷峰網(公眾號:雷峰網)了解到,高通正在采取不同的方式實現(xiàn)終端側的學習能力,對包括小樣本學習、無監(jiān)督持續(xù)學習、聯(lián)邦學習和低復雜度的終端側訓練等方向的研究,且已經取得了一些成效。

通過小樣本學習,在關鍵詞識別方面,AI能夠“看完”某一人的筆跡或書面文字之后快速進行辨認,也能在用戶錄入數(shù)據(jù)時進行局部模型適應,憑借少量樣本數(shù)據(jù)和數(shù)據(jù)標記能力,提升關鍵詞識別能力。

在聯(lián)邦學習方面,云端創(chuàng)造的模型被下發(fā)到邊緣側終端之后,基于一定程度的離線學習,終側端就可以根據(jù)消費者實際情況調整模型,由于終端側學習的過程會產生噪音,因此還能將其回傳到云端進一步提升模型的泛化能力。在實際的應用場景中,如果一輛汽車不斷在多個國家的不同路況上行駛,云端模型就可以持續(xù)進行適應,假以時日模型經過優(yōu)化,就能打造出更加優(yōu)秀的自動駕駛汽車模型。

為了讓AI在終側端發(fā)揮最大作用,高通也有針對性的技術創(chuàng)新。

例如,高通支持INT4的精度推理。INT4相比INT8能夠實現(xiàn)60% 的能效提升和90%的AI推理速度提升,如果從INT8轉化到INT4、或從浮點計算轉化到整數(shù)計算,在同樣的算力下能夠處理更多的數(shù)據(jù)。如果將32位浮點模型轉化為INT4模型,能效甚至能夠提升到64倍。

智能終端性能升級成必然,高通已賦能20億終端

提升邊緣側處理能力已經成為全民所需,高通已經在這一方面取得了不少突破性成果,且將不少AI算法應用到了影像和圖形處理等功能中,為業(yè)界提供了一條發(fā)展思路。

首先,高通專注統(tǒng)一技術路線圖進行產品開發(fā),涵蓋了邊緣AI、前沿的視覺效果和視覺技術、圖形和游戲技術、新穎的多媒體效果、極快處理速度,以及5G連接能力等特性。高通將這些技術進行規(guī)模化擴展,從耳機等較低復雜度的產品到汽車等高復雜度的產品。這些AI技術中包括了自然語言處理、面部識別等不同的能力。

AIGC “一夜爆紅”,我們需要什么樣的AI芯片?

其次,高通的AI引擎已經賦能20億終端。高通的AI引擎包含圖形處理單元、CPU、以及更關鍵的Hexagon處理器,其中Hexagon處理器又包含標量、向量和張量處理器,這些處理器能夠很好地與神經網絡模型的不同部分實現(xiàn)匹配?;鶞蕼y試顯示,高通AI引擎在自然語言處理、目標檢測等模型方面都實現(xiàn)了一定的性能優(yōu)化。

另外,高通還在芯片子系統(tǒng)中集成了一個小型“始終在線”小引擎,稱之為高通傳感器中樞,能同時處理多路數(shù)據(jù)流,包括傳感器、語音和音頻、連接和始終感知的攝像頭等。這一傳感器中樞通過AI性能的提升已經具備識別隱患聲音的能力,例如能夠對半夜傳來的玻璃破碎聲記下監(jiān)測和預警。

高通還開發(fā)了具有高度可擴展性的硬件架構,針對應用需求進行擴展開發(fā),例如高通的驍龍移動平臺,通常會配置一個Hexagon處理器實例;但如果擴展到計算等其他業(yè)務時,也可以使用兩個Hexagon處理器實例;面向汽車、云和邊緣,則可以使用多個Hexagon處理器實例來提高算力。

AIGC “一夜爆紅”,我們需要什么樣的AI芯片?

AIGC“一夜爆紅”,高通依然發(fā)揮自己在智能終端領域的長處與優(yōu)勢,通過技術創(chuàng)新持續(xù)提升著終端AI芯片的處理能力,或許,在絕大多數(shù)AI芯片公司選擇在云端持續(xù)加碼時,重視邊側端的推理計算能力更能創(chuàng)造一個具有顛覆性的未來。(雷峰網)

相關文章:

中國需要自己的ChatGPT!中文在線攜手瀾舟科技加碼布局AIGC賽道

技術壁壘這么多,AIGC 憑什么爆火?

雷峰網原創(chuàng)文章,未經授權禁止轉載。詳情見轉載須知。

分享:
相關文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經綁定,現(xiàn)在您可以設置密碼以方便用郵箱登錄
立即設置 以后再說