國產芯片提升效率降能耗
推動AI產業健康發展 創造更優質上下游產品
生成式人工智能（AIGC）風頭正盛，卻也面臨高能耗問題。在上海舉行的2024世界人工智能大會上，一款以圖生文的應用「AI小鋼炮」吸引了觀眾注意，這款應用僅需一張圖片，就可以生成詞語、長句甚至文章，而它的核心，正是中國企業愛芯元智自主研發的邊側AI芯片。「從設計之初我們已經考量如何在每瓦功耗下最大化算力，以滿足市場對高性能、低能耗芯片的需求。」 愛芯元智AI推理引擎總監唐琦這樣說道。為促進AI產業健康發展，不少中國企業早已啟動「節能」思維，創造更優質AI產業上下游產品，通過探索芯片研發以及推動算法「加速器」應用，來減少能耗。
近日，科技巨頭谷歌發布年度環境報告顯示，因核心產品中整合了人工智能，該公司的碳排放量在過去五年內增近50%。馬斯克亦曾表示，為了滿足人工智能和電動汽車的需求，未來幾年或出現電力短缺。
成本低適配百元級設備
愛芯元智表示，相較於傳統GPU芯片，這款自主研發AI芯片的能效比高達10倍，「假設傳統GPU單卡功耗高達200瓦，而採用愛芯元智芯片的系統則能在AI性能不變的情況下，將功耗顯著降低至20至30瓦，從而實現顯著的節能效果。」同時，一旦功耗以10倍的速度下降，應用的服務器集群也無需用液冷散熱，可改用風能散熱，又減少了水耗。
唐琦更提到了普惠AI的概念，他表示，當前愛芯元智端側小芯片可以以3.2T的算力，助力語言大模型運作，使用者可以實現流暢地人機對話，查詢信息、日常交流……其信息處理迅速，每秒能處理超過10個信息單元，但耗電卻非常低，不到1.5瓦，「更加重要的是，這顆小芯片成本非常低，適配百元級設備，這樣的話，未來智能手機、智能家電都可以搭載這樣的芯片，那麼我們也就讓AI應用產品通過低能耗的方式走進了千家萬戶。」
天數智芯產品市場總監李曉錦透露，公司通過底層優化，讓芯片在集群中的有效利用率顯著提升，通過提升效率來降低能耗。
而在合合信息展台，一款「大模型加速器」更是節能減排的「隱藏高手」，合合信息相關工作人員介紹，文檔解析引擎具備強大的「動能」，最快1.5秒可解析百頁長文檔中的文本、表格、圖像等非結構化數據，「以前同樣的文本訓練可能要1分鐘，那現在只要1.5秒，大模型主要的耗能就是在訓練學習時，那麼通過我們的引擎加速，大模型學習的時間縮短了，也就意味着同樣的學習成績花了更少的時間，能耗自然就減少了，目前，我們已經與百川智能攜手，將對百頁文檔的整體處理速率提升超過10倍，未來也會進一步加速研發，助力提升大模型效率。」
