高通全球副總裁孫剛:未來幾個月將有望在手機上運行超過100億參數(shù)的模型

2023-07-20 18:05:40   來源:新浪科技   評論:0   [收藏]   [評論]
導讀:  新浪科技訊 7月20日午間消息,在今日的2023世界半導體大會暨南京國際半導體博覽會上,高通全球副總裁孫剛發(fā)表演講! ∷硎,5G技術持續(xù)演講,5G Advanced開啟新一輪5G創(chuàng)新;推動混合AI架構,通過在終端
  新浪科技訊 7月20日午間消息,在今日的2023世界半導體大會暨南京國際半導體博覽會上,高通全球副總裁孫剛發(fā)表演講。

  他表示,5G技術持續(xù)演講,5G Advanced開啟新一輪5G創(chuàng)新;推動混合AI架構,通過在終端側運行AI推理分擔或支持云端處理。5G與AI將如影隨形同步發(fā)展,兩大協(xié)同基本要素助力未來創(chuàng)新。

  孫剛提到,生成式AI將在搜索、內容生成、代碼編寫、生產力上帶來變革。顛覆行業(yè)現(xiàn)狀,幾秒內即可創(chuàng)作內容,巨大的市場機遇和顯著提升生產力的潛力。2020年至2022年,生成式AI相關的投資增長425%,初步預估生成式AI市場規(guī)模將達到1萬億美元。

  不過他指出,云經濟難以支持生成式AI規(guī);卣,為實現(xiàn)規(guī);卣,AI處理的中心正在向邊緣轉移。比如XR、汽車、手機、PC、物聯(lián)網,生成式AI將影響各類終端上的應用。

  在2023MWC期間,高通進行了全球首個終端側演示運行于安卓手機的生成式AI,下一步在終端上運行大型語言模型。

  “目前我們能夠支持參數(shù)超過10億的模型在終端上運行,未來幾個月內超過100億參數(shù)的模型將有望在終端側運行。”他說。

分享到:
責任編輯:zsz

網友評論