《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > 聯發科天璣AI開發套件:加速生成式AI大模型終端部署

聯發科天璣AI開發套件:加速生成式AI大模型終端部署

2024-05-07
來源:聯發科技
關鍵詞: 聯發科技 人工智能

近日,主題為“AI予萬物”的聯發科天璣開發者大會2024(MDDC)在深圳成功舉辦。眾多移動生態領域的領先廠商與開發者匯聚一堂,共同探討端側生成式AI技術及生成式AI手機的未來發展,并分享了天璣AI生態戰略與終端生成式AI應用開發一站式解決方案——“天璣AI開發套件”。此外,聯發科攜手業界生態伙伴共同發布《生成式AI手機產業白皮書》,并針對全球開發者推出“天璣AI先鋒計劃”。這一舉措既為生成式AI手機的定義與發展提供了新的思考與期待,也整合了產業各方資源,為全球開發者提供優質平臺與資源,助力全場景生成式AI應用的普及與發展。

1.jpg

當前生成式AI應用的體驗升級已成為行業和用戶的共同期待,智能終端是生成式AI普及的關鍵載體。智能手機憑借移動便攜性、個人專屬化、多模態感知以及強勁的AI算力和通信功能,毫無疑問將成為端側生成式AI應用落地的最佳選擇。伴隨生成式AI與智能手機融合加速,智能手機迎來了繼觸控屏幕之后的又一個革新機遇,在聯發科等行業先行者的推動下,屬于“生成式AI手機”的時代已經到來。


天璣AI先鋒計劃啟動,助力開發者打造創新用戶體驗

目前,由于生成式AI模型積累不足、硬件多樣移植難度大、開發界面不統一等問題,生成式AI普及仍面臨由點向面發展的巨大挑戰。為促進產業共創實現生態共贏,聯發科在天璣開發者大會上聯合阿里云、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米面向全球開發者啟動“天璣AI先鋒計劃”,提供基于模型化、算力化和軟硬件等方面的開發資源和支持,并提供廣泛的商業機遇。通過天璣AI先鋒計劃,開發者可以充分發揮天璣移動平臺的優勢,加速端側生成式AI應用的開發與落地,為用戶打造獨具創新的AI體驗。

2.jpg


為實現這一長期計劃和全場景生成式AI愿景,聯發科在大會上提出了天璣生態戰略,從芯片、模型、應用三個層面,聯合產業伙伴和開發者共同探索端側AI技術路線,推進顛覆性的端側AI應用和服務創新。


聯合產業伙伴發布《生成式AI手機產業白皮書》,共同定義“生成式AI手機”

在天璣開發者大會上,聯發科聯合Counterpoint并攜手阿里云通義千問、百川大模型、虎牙、酷狗音樂、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo行業頭部伙伴聯合發布《生成式AI手機產業白皮書》,共同定義了“生成式AI手機”的概念和典型特征。《白皮書》提到:生成式AI手機是利用大規模、預訓練的生成式AI模型,實現多模態內容生成、情境感知,并具備不斷增強的類人能力。生成式AI手機開啟了智能手機發展的新周期,長遠看,智能手機將會發展為移動智能體。

3.jpg

4.jpg

同時,《白皮書》這樣定義了生成式AI手機的典型特征:在未來,生成式AI手機將具備強大的AI算力,支持大模型的本地部署,或是通過云端協同的方式執行復雜的生成式AI任務,無需完全依賴云端服務器。同時將具備多模態能力,處理文本、圖像、語音等多種形式的內容輸入,以生成各種形式的輸出,確保流暢、無縫的用戶體驗,設備能夠以自然而直觀的交互方式,快速響應用戶的請求。而為了實現這一目標,生成式AI手機將需要強大的硬件支持,包括但不限于基于領先工藝和先進架構設計的移動計算平臺,集成或者獨立的神經網絡運算單元(如APU/NPU/TPU),大容量和高帶寬的內存,以及穩定和高速的連接,硬件級和系統級的安全防御。

5.jpg

從《白皮書》中可以預見,未來的手機將成為一個能夠理解并預測用戶需求、提供創造性解決方案的智能伙伴,搭載多個AI智能體的生成式AI手機將成為用戶訪問數字生態的超級入口,端側的AI應用將進入人們日常生活的購物、旅游、游戲等場景,扮演購物達人、私人顧問、互動NPC等專屬角色,實現用戶體驗的優化與飛躍。


天璣AI開發套件,為廣大開發者提供“快、全、強、易”的專業開發體驗

很多開發者都面臨著終端生成式AI應用開發起步期的多元挑戰,聯發科不僅研發出領先的天璣芯片,更重要的是,幫助開發者在搭載天璣芯片的終端上打造出更具創新性的生成式AI用戶體驗,從而推動整個AI新生態的繁榮與發展。會上,聯發科隆重推出了“天璣AI開發套件”,為廣大開發者提供終端生成式AI應用開發的一站式解決方案。天璣AI開發套件包含四大模塊,包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優化技術和Neuron Studio一站式視覺化開發環境等四大模塊,為廣大開發者提供“快、全、強、易”的專業開發體驗,賦能終端生成式AI應用開發全流程。

6.jpg

其中,GenAI 最佳實踐,它可以提升大模型的終端部署速度,從原先的數周加速到一天即可完成部署。在模型的量化、編譯、推理方面,為開發者提供先進的INT4量化技術、內存壓縮技術、Token加速技術、最優緩存配置,還可以開放端側部署源碼。讓開發者在與時間賽跑的創新競賽中,搶得先機,更好地把握創新機遇。

7.jpg

全面的GenAI Model Hub ,是聯發科為開發者打造的模型庫,目前已適配包括:Meta Llama、百川大模型、阿里云通義千問在內的全球主流大模型。開發者可以輕松獲取并使用這些不斷新增的大模型,進而大幅降低模型部署的難度和復雜性。

8.jpg

強大的GenAI優化技術,是生成式AI應用體驗的關鍵。目前已導入了多項業界最新、最快的軟件優化技術,包括“推測解碼加速”和“LoRA Fusion”等等,可顯著提升AI應用的生成速度,功能包所占用的存儲空間也可以大幅減少。

9.jpg

易用的Neuron Studio 集成開發環境,跳出傳統的代碼開發環境,可為開發者提供高度集成的,一站式、可視化開發環境 ,帶來“所見即所得”般更易用的開發體驗,讓開發過程變得更加直觀、易用。

10.jpg

目前天璣AI開發套件,已覆蓋包括智能手機、智能汽車、物聯網、個人電腦等智能終端設備,推動這些領域的AI應用快速創新和落地。

從應用落地成果來看,聯發科憑借其優秀的AI平臺能力,已攜手阿里云通義千問、Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、Soul、騰訊AI Lab、小紅書等數十家生態伙伴共創體驗更精彩的生成式AI應用。

11.jpg


天璣9300+全大核旗艦亮相,AI芯更強

本屆MDDC2024上,聯發科還重磅發布旗艦5G生成式AI移動平臺天璣9300+,以先進架構和強勁算力為生成式AI手機提供硬件支持。天璣9300+率先支持AI推測解碼加速技術,同時支持天璣AI LoRA Fusion 2.0技術,為用戶帶來高速和個性化的生成式AI體驗。天璣9300+還支持AI框架ExecuTorch,可加速端側生成式AI應用的開發進程。此外,這款旗艦芯支持多種前沿主流AI大模型,包括阿里云通義千問大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2 & Llama 3等。用一句話概括天璣9300+就是,不僅擁有卓越的全大核性能和低功耗設計,還具備多項業界領先的生成式AI技術,以及聯發科與生態伙伴共創的優質游戲體驗,無疑是當下生成式AI手機的最優選擇。

12.jpg

顯然,聯發科的天璣生態戰略凸顯出卓越的前瞻性、技術領先地位以及顯著的產品優勢。通過參與天璣開發者大會,聯發科從生成式AI產業的先驅及參與者,躍升為該領域發展的引領者。全方位推動生成式AI在終端側的廣泛普及和持續發展,攜手產業合作伙伴共同開創生成式AI的新生態。

訂閱網站文章尾圖1.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 成年激情网 | 伊人手机视频 | 欧美综合区自拍亚洲综合图区 | 国产91亚洲精品 | 色综合网址| 91久久线看在观草草青青 | 国产高清不卡一区二区三区 | 免费特黄级夫费生活片 | 丁香婷婷亚洲六月综合色 | 成年人在线看片 | 欧美天堂在线观看 | 亚洲精品乱码久久久久久蜜桃欧美 | 日韩资源站 | 欧美第一页草草影院 | 日本一二区视频 | 天天躁日日躁成人字幕aⅴ 天天在线欧美精品免费看 天天影视涩香欲综合网 | 涩涩涩丁香色婷五月网视色 | 性欧美高清另类videoso | 亚洲国产高清在线 | 亚洲精品成人图区 | 黄色小视频在线观看免费 | 欧美护士激情第一欧美精品 | 欧美又黄又嫩大片a级 | www.av一区| 色播影视| 99在线免费观看视频 | 色香欲亚洲天天综合网 | 视频日韩| aⅴ视频在线免播放观看 | 日本边添边摸边做边爱小视频 | 特级按摩一级毛片 | 国产精品二区高清在线 | 夜夜嗨视频网 | 奇米88888| 一级香蕉视频在线观看 | 国产女同一区二区在线 | 一级毛片视频免费观看 | 成人综合在线视频免费观看 | 一级毛毛片毛片毛片毛片在线看 | 欧美日韩一区二区综合 | 成人激情视频 |