高能低耗易部署,愛(ài)芯元智AX650N成Transformer最佳落地平臺(tái) 環(huán)球焦點(diǎn)
近來(lái),ChatGPT成為社會(huì)各界關(guān)注的焦點(diǎn)。從技術(shù)領(lǐng)域看,ChatGPT的爆發(fā)是深度學(xué)習(xí)領(lǐng)域演進(jìn)、發(fā)展和突破的結(jié)果,其背后代表著Transformer結(jié)構(gòu)下的大模型技術(shù)的飛速進(jìn)展。因此,如何在端側(cè)、邊緣側(cè)高效部署Transformer也成為用戶(hù)選擇平臺(tái)的核心考量。
2023年3月,愛(ài)芯元智推出了第三代高算力、高能效比的SoC芯片——AX650N,依托其在高性能、高精度、易部署、低功耗等方面的優(yōu)異表現(xiàn),AX650N受到越來(lái)越多有大模型部署需求用戶(hù)的青睞,并且先人一步成為T(mén)ransformer端側(cè)、邊緣側(cè)落地平臺(tái)。
Transformer是當(dāng)前各種大模型所采用的主要結(jié)構(gòu),而ChatGPT的火爆讓人們逐漸意識(shí)到人工智能有著更高的上限,并可以在計(jì)算機(jī)視覺(jué)領(lǐng)域發(fā)揮出巨大潛能。相比于在云端用GPU部署Transformer大模型,在邊緣側(cè)、端側(cè)部署Transformer最大的挑戰(zhàn)則來(lái)自功耗,這也使得愛(ài)芯元智兼具高性能和低功耗特質(zhì)的混合精度NPU,成為端側(cè)和邊緣側(cè)部署Transformer的首選平臺(tái),而其優(yōu)越性能則決定了Transformer的運(yùn)行效果。
(資料圖片)
作為人工智能視覺(jué)感知芯片研發(fā)及基礎(chǔ)算力平臺(tái)公司,愛(ài)芯元智始終致力于讓更多的實(shí)際應(yīng)用落地。目前大眾普遍采用的Transformer網(wǎng)絡(luò)SwinT,在愛(ài)芯元智AX650N平臺(tái)表現(xiàn)出色:361 FPS的高性能、80.45%的高精度、199 FPS/W的低功耗以及原版模型且PTQ量化的極易部署能力,都讓AX650N在Transformer的落地中有著領(lǐng)先的優(yōu)勢(shì)地位。
具體來(lái)看,361幀的高性能,可媲美汽車(chē)自動(dòng)駕駛領(lǐng)域基于GPU的高端域控SoC;而80.45%的高精度成績(jī)同樣高于市面平均水平;199 FPS/W的速度則充分體現(xiàn)出低功耗的特點(diǎn),對(duì)比于目前基于GPU的高端域控SoC,有著數(shù)倍的優(yōu)勢(shì);更為重要的,AX650N部署方便,GitHub上的原版模型可以在愛(ài)芯元智的平臺(tái)上高效運(yùn)行,不需要對(duì)模型做修改,亦無(wú)需QAT重新訓(xùn)練。與此同時(shí),AX650N支持低比特混合精度,用戶(hù)如果采用INT4,可以極大地減少內(nèi)存和帶寬占用率,達(dá)到有效控制端側(cè)、邊緣側(cè)部署成本的目的。這些特性都保證了AX650N作為人工智能算力平臺(tái),最終落地效果更好用、更易用,且大幅提升了用戶(hù)效率。
目前,AX650N已適配包括ViT/DeiT、Swin/SwinV2、DETR在內(nèi)的Transformer模型,在DINOv2也已達(dá)到30幀以上的運(yùn)行結(jié)果,這也更便于用戶(hù)在下游進(jìn)行檢測(cè)、分類(lèi)、分割等操作?;贏X650N的產(chǎn)品目前已在智慧城市、智慧教育、智能制造等計(jì)算機(jī)視覺(jué)核心領(lǐng)域發(fā)揮出重要作用。
接下來(lái),愛(ài)芯元智AX650N將會(huì)針對(duì)Transformer結(jié)構(gòu)進(jìn)行持續(xù)優(yōu)化,并且探索更多的Transformer大模型,例如多模態(tài)大模型,不斷讓Transformer在愛(ài)芯元智平臺(tái)上得到更好的落地效果。值得一提的是,愛(ài)芯元智還將推出相應(yīng)開(kāi)發(fā)板,滿(mǎn)足開(kāi)發(fā)者對(duì)Transformer深度研究的需求,探尋更豐富的產(chǎn)品應(yīng)用。
“愛(ài)芯元智將繼續(xù)努力打造基于芯片+軟件的端側(cè)、邊緣側(cè)人工智能算力平臺(tái),讓智能落實(shí)到生活的真實(shí)場(chǎng)景,最終實(shí)現(xiàn)普惠AI造就美好生活的企業(yè)愿景”,愛(ài)芯元智創(chuàng)始人、CEO仇肖莘女士表示。未來(lái),愛(ài)芯元智將在成為人工智能算力平臺(tái)型公司的道路上繼續(xù)探索,加速基于Transformer的大模型在端側(cè)、邊緣側(cè)落地的節(jié)奏,讓普惠智能真正落地生根,開(kāi)花結(jié)果。
關(guān)于愛(ài)芯元智:
愛(ài)芯元智成立于2019年5月。作為人工智能視覺(jué)感知芯片研發(fā)及基礎(chǔ)算力平臺(tái)公司,愛(ài)芯元智組建了從芯片設(shè)計(jì)、研發(fā)到生產(chǎn)的全功能團(tuán)隊(duì),核心成員均參與過(guò)10顆以上芯片的設(shè)計(jì)和生產(chǎn),在產(chǎn)品規(guī)劃和產(chǎn)品落地上具有豐富經(jīng)驗(yàn)。
目前,愛(ài)芯元智已成功研發(fā)并量產(chǎn)了三代多顆端側(cè)、邊緣側(cè)智能視覺(jué)感知芯片,所有芯片產(chǎn)品均具備低功耗優(yōu)勢(shì)及優(yōu)異的圖像處理能力。憑借自研核心技術(shù)——愛(ài)芯智眸?AI-ISP和混合精度NPU,愛(ài)芯芯片產(chǎn)品可滿(mǎn)足客戶(hù)不同場(chǎng)景的產(chǎn)品需求,相關(guān)產(chǎn)品和解決方案已成功落地華東、華南、華北,廣泛應(yīng)用于智慧城市、智能交通、智慧家居、智慧制造、智能消費(fèi)等領(lǐng)域。
關(guān)鍵詞:
您可能也感興趣:
今日熱點(diǎn)
為您推薦
機(jī)票里面包含保險(xiǎn)嗎?飛機(jī)保險(xiǎn)有必要買(mǎi)嗎?
遼寧擴(kuò)大緩繳社保費(fèi)政策實(shí)施范圍 補(bǔ)繳期間免收滯納金
更多
- 高能低耗易部署,愛(ài)芯元智AX650N成Transformer最佳落地平臺(tái) 環(huán)球焦點(diǎn)
- e絡(luò)盟發(fā)售Analog Devices最新電源產(chǎn)品
- 賀利氏發(fā)布《2023鉑金年刊》:鉑族金屬市場(chǎng)需求預(yù)計(jì)將上升,...
- 全球今日訊!先進(jìn)的系統(tǒng)控制FPGA為您帶來(lái)全新可能
- 榮耀90系列618前夕重磅登場(chǎng),趙明稱(chēng)萬(wàn)事俱備,對(duì)熱銷(xiāo)信心十足
- 智者避危于無(wú)形,如何讓您的電子系統(tǒng)實(shí)現(xiàn)可靠的安全認(rèn)證?-世...
- 【世界快播報(bào)】后量子加密中不斷發(fā)展的安全趨勢(shì)
- 制造商應(yīng)當(dāng)首先考慮業(yè)務(wù)的彈性
更多
- 全球快資訊丨《大空頭》原型:硅谷銀行危機(jī)或許很快就能解除
- 當(dāng)前熱訊:蕪湖宜居投資20億元小公募債券狀態(tài)更新為“已反饋”
- Kaiko:3月份Coinbase的市場(chǎng)深度腰斬,幣安下降13%
- 環(huán)球快資訊:汪濤:2月信貸增速再超預(yù)期
- 世界今日?qǐng)?bào)丨武漢地鐵發(fā)行10億元公司債 票面利率3.38%
- 利率下調(diào)仍受熱捧 年內(nèi)首批儲(chǔ)蓄國(guó)債開(kāi)售即告罄
- 全球滾動(dòng):北京城建集團(tuán)10億短期融資券即將兌付 利率1.76%
- 全球即時(shí):美的置業(yè)9.84億公司債將付年息 票面利率4.20%
排行
- 智者避危于無(wú)形,如何讓您的電子系統(tǒng)實(shí)現(xiàn)可靠的安全認(rèn)證?-世...
- 科技智庫(kù)需要進(jìn)一步加快智庫(kù)成果轉(zhuǎn)化
- 雄安設(shè)立兩年 290家京企“搶灘登陸”
- 女子拽男友公交車(chē)方向盤(pán)受審 涉嫌危害公共安全罪
- 成都實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略,將挖掘培養(yǎng)高素質(zhì)職工人才
- “人造雪粉”接觸眼睛或被誤食可能有危險(xiǎn)
- 這一年,我們?yōu)榭萍肌俺尺^(guò)的架”真不少
- “四成人不知電商法”該如何破題
- 監(jiān)督搭平臺(tái)信息都上網(wǎng) 打通精準(zhǔn)監(jiān)督‘最后一公里’
- 智能烹飪機(jī),選購(gòu)有講究
最近更新
- 高能低耗易部署,愛(ài)芯元智AX650N成Transformer最佳落地平臺(tái) 環(huán)球焦點(diǎn)
- 鹽酸倍他司汀片的功效與作用有哪些?鹽酸倍他司汀片一次吃幾粒?
- 眼睛腫了怎么快速消腫?眼睛腫要警惕哪四種病?
- 時(shí)隔兩年國(guó)足回歸主場(chǎng) 6月邀請(qǐng)賽最低票價(jià)180元_全球快資訊
- 7日清腸瘦身法有什么?如何才能快速瘦下來(lái)?
- 打進(jìn)核心城區(qū)!小馬智行在深圳開(kāi)啟自動(dòng)駕駛無(wú)人化測(cè)試 環(huán)球快訊
- 龍井茶地理標(biāo)志證明商標(biāo)(地理標(biāo)志證明商標(biāo)松溪綠茶)|世界消息
- 贛縣區(qū)氣象臺(tái)更新高溫橙色預(yù)警信號(hào)【II級(jí)/嚴(yán)重】【2023-05-30】
- 甲流和普通感冒有哪些區(qū)別?甲流不治療可以自愈嗎?
- 思密達(dá)的功效與作用有哪些?中醫(yī)為什么不建議吃蒙脫石散?
- 宮外懷孕怎么處理?什么情況導(dǎo)致宮外懷孕?
- 鵝蛋煮多久能煮熟?女性為什么不能吃鵝蛋?
- 北三縣的未來(lái)!“劃入北京”O(jiān)R“獨(dú)立成市”O(jiān)R……-全球訊息
- 低燒不處理會(huì)自己退嗎?發(fā)低燒最多不能超過(guò)幾天?
- 酚麻美敏片的功效與作用有哪些?酚麻美敏片對(duì)甲流有作用嗎?
- 熱門(mén):浙江省湖州市練市鎮(zhèn)第一中學(xué) 課后服務(wù)多舉措 落實(shí)“...
- 新知|自信是一種肌肉記憶
- 小暑簡(jiǎn)單文案_小暑的簡(jiǎn)單文案有哪些
- 什么是紅綠色弱?紅綠色弱哪些專(zhuān)業(yè)不能報(bào)?
- 氯氣有毒嗎?聞了一大口氯氣怎么辦?
- 廈門(mén)鼻部整形醫(yī)生排行榜 廈門(mén)隆鼻張少軍主任介紹 美萊整形
- 直系親屬可以輸血嗎?為什么親生父母不能給孩子輸血?
- 英雄為國(guó)再出征——記神舟十六號(hào)航天員_微速訊
- 重點(diǎn)聚焦!日本和中國(guó)市場(chǎng)回暖 豐田汽車(chē)(TM.US)4月汽車(chē)銷(xiāo)量同比增長(zhǎng)5%
- “豫東考古研究中心”落戶(hù)周口市淮陽(yáng)區(qū)
- 緊急預(yù)警!謹(jǐn)防這種冒充微粒貸客服的電信詐騙!
- 當(dāng)前時(shí)訊:恒力石化(600346)5月30日主力資金凈買(mǎi)入1120.92萬(wàn)元
- 天天熱頭條丨羊肉香菜餃子怎么做?
- 香菜雞蛋湯是怎么做的?
- 微頭條丨水果怎么擺盤(pán)好看又簡(jiǎn)單
今日要聞
- 高能低耗易部署,愛(ài)芯元智AX650N成Transformer最佳落地平臺(tái) 環(huán)球焦點(diǎn)
- 緊急預(yù)警!謹(jǐn)防這種冒充微粒貸客服的電信詐騙!
- 英雄為國(guó)再出征——記神舟十六號(hào)航天員_微速訊
- 當(dāng)前時(shí)訊:恒力石化(600346)5月30日主力資金凈買(mǎi)入1120.92萬(wàn)元
- “傳統(tǒng)”活動(dòng)凝聚拼搏力量 職工運(yùn)動(dòng)會(huì)掀起全民健身運(yùn)動(dòng)新熱潮
- 晶科山西,N型標(biāo)桿和走向
- 飛鴿寄件全國(guó)代理商大會(huì)圓滿(mǎn)召開(kāi),輝煌盛況讓人震撼
- 618MiniLED電視選購(gòu)攻略:“2個(gè)不要,2個(gè)標(biāo)配”
- 花開(kāi)漫人間 | 錦江之星邀你赴一場(chǎng)夏日約會(huì)
- e絡(luò)盟發(fā)售Analog Devices最新電源產(chǎn)品