2024-11-23 01:32:02 1
生成式AI攪動晶片三大架構生態,中國AI晶片創企首次主導底層技術突破。
作者 | 雲鵬
編輯 | 漠影
過去幾年生成式人工智慧(GAI)的快速發展,讓所有主流指令集架構迎來了一次重要更新潮。
從x86、Arm到RISC-V,都在制定面向矩陣(Matrix)指令集方向的擴充套件,因為GAI應用的大部分典型負載的核心運算都需要使用矩陣計算。
2021年,Arm宣佈在ARMv9-A架構中引入Scalable Matrix Extension(SME)指令集擴充套件;2023年初,英特爾正式推出了第4代英特爾至強可擴充套件處理器,整合了Advanced Matrix Extensions(AMX)指令集。
2023年底,RISC-V國際基金會同時成立了2個矩陣指令集擴充套件技術組(Attached Matrix Extension TG和Integrated Matrix Extension TG),計劃用一至兩年的時間完成新指令集的制定,其目的就是要加速矩陣運算,從而提高機器學習和AI應用的效能。
就在最近,希姆計算在RISC-V美國峰會上釋出了其RISC-V矩陣擴充套件開源專案的最新0.5版本,行業內率先支援了向量+矩陣的實現。
這家年輕的中國創企也成為首家向全球社羣提交完整RISC-V矩陣指令集及其支援工具的公司。這一舉措無疑會推動RISC-V矩陣指令集國際標準的快速形成,提高AI應用的相容性、降低軟體開發適配成本,推動整個RISC-V生態系統的發展。
對此,RISC-V國際基金會執行長Calista Redmond給予了高度評價,她說到:“看到像希姆計算這樣的創新專案積極採用和支援了RISC-V的新特性,真是令人鼓舞。矩陣指令集擴充套件代表了RISC-V生態系統向前邁出了重要一步,能夠在特定應用場景中顯著提升效能。我們對希姆計算團隊的努力表示感謝,這對整個社羣來說是一個巨大的勝利。”
中國電子工業標準化技術協會RISC-V工作委員會技術委員會主任、國家工業資訊保安發展研究中心總工程師周平說到:“非常高興看到作為RISC-V工委會副理事長單位的希姆計算,在推動Matrix國際標準方面所做的貢獻,特別是在開源SCOOP專案上的努力令人印象深刻。希姆計算不僅展示了卓越的技術能力,還體現了開放合作的精神,這對於促進RISC-V在AI領域指令集擴充套件的發展具有重要意義。我們期待希姆計算繼續在工委會、在國際社羣積極發揮作用和協作精神,為行業帶來更多的創新與進步。
AI新時代,中國晶片企業正集體一步一步走到制定國際標準的行業領導者行列中。
01.
生成式AI掀起矩陣計算革命,
RISC-V或成做AI最佳選擇,標準統一是關鍵
進入生成式AI時代,RISC-V很可能會成為做AI的最佳指令集架構。
首先,正如前文所提到的,RISC-V可以憑藉開源的模組化設計去賦能開發者,讓AI晶片可以針對不同負載做加速,同時兼顧良好的可程式設計性和通用性。
面對生成式AI帶來的需求、場景爆發,這樣的特性顯然是非常關鍵的。
此外,在AI新時代,基於RISC-V的開源方案可以最大程度保證國家層面對資料安全的掌控,還一定程度上打破既有的行業壟斷態勢,同時還能兼顧產業生態的融合,可以說是商業模式潛力最大化的解決方案。
明確了RISC-V的方向,如何讓RISC-V可以更好地支援AI應用?標準的統一就成為了接下來的重中之重。
一旦矩陣擴充套件指令標準確定下來,全球RISC-V生態中的開發者都可以用一樣的矩陣指令來做自己的晶片,這樣軟體應用層面就會有更多的融合機會,應用也能實現真正的通用性,就如同基於安卓系統的應用生態。
基於這一統一標準,各類產品都將快速生長,工具連、基礎軟體也將逐漸完善,這對於RISC-V在應用層面與x86和Arm生態競爭十分關鍵。
從生態角度上來說,制定好這樣一套全球範圍內都可以接受的、基於AI方向的矩陣擴充套件指令集標準,意義非常重大。
RISC-V的優勢在於開源,但劣勢也在於此:如果指令集不統一、“各自為戰”、就會有碎片化的問題。
目前包括谷歌、高通、Meta等全球頭部科技巨頭都在往RISC-V矩陣指令集擴充套件及相關標準統一的方向上努力,這進一步證明了這一方向的正確性。
而國內AI晶片創企希姆計算,正成為其中跑的最快的一個,成為這一領域中中國晶片企業的代表,在國際行業標準的制定方面將話語權掌握在了自己手裡。
02.
從晶片指令集創新到產業化落地,
希姆計算打通RISC-V AI應用全鏈條
正如前文所說,新標準的統一成為RISC-V生態在AI新時代最需要解決的問題,也成為全球科技巨頭競爭的焦點。希姆計算這次在標準制定過程中的亮眼表現,贏得了國際基金會和業界的廣泛認可。
根據官方資訊,目前希姆計算的RISC-V矩陣擴充套件開源專案已升級至0.5版本,支援了向量+矩陣的實現。
具體來看,最新的RISC-V矩陣指令集採用了Tile-based的矩陣乘法架構設計,在原有基礎上進一步完善了程式設計模型和型別支援,同時提供了基本版32位指令編碼。
此外,透過引數化暫存器架構和模組化型別系統,新的RISC-V矩陣指令集能夠適應從邊緣到雲端的各種應用場景。
值得一提的是,為了進一步推動標準化和商業實施,希姆計算還更新了一系列工具,包括基於LLVM的編譯器、基於Spike的模擬器、基於GDB的偵錯程式,以及基於SCOOP(Stream Computing Out-of-Order Processor)平臺的開源核心實現,其包含對RVV和RV Matrix的支援。
站在今天的0.5版本回顧過去三年,希姆計算可以說實現了“從量變到質變”的積累。
從2022年9月RISC-V矩陣ISA規範0.1版本完成、首次向RISC-V國際基金會提交開源提案和支援工具,到2023年與達摩院建立了協商機制、共同探索RISC-V矩陣指令集。
用希姆計算執行副總裁陳煒博士的話來說,指令集的設計、功能的完善補充,是一個不斷的學習和演進的過程,逐漸從非標到標準化,與國際上達成的共識相一致。
此外,指令集從設計到應用落地也充滿挑戰,比如模擬驗證、DEBUG等方面相關軟體的完善,以及面對AI應用在運算元庫層面的更廣泛支援。
由於目前矩陣指令集的國際標準還沒有定下來,相關配套的軟體工作量是非常大的,希姆計算團隊投入了大量資源來完善相關工作。
值得一提的是,希姆計算的獨到優勢之處在於,其不光完成了指令集的開發工作,還進一步實現了產業化,也就是對大模型的適配以及應用的落地。
就在本月早些時候,RISC-V國際基金會正式刊發的《希姆計算基於RISC-V計算能力和大型語言模型(LLMs)提供智慧社羣服務》一文,基於自主研發的RISC-V晶片和推理加速卡STCP920,希姆計算給LLM應用建立了一個整合RISC-V硬體和軟體的生態系統。
這個生態系統包括一個智慧計算雲平臺、行業LLMs、資料治理平臺和一個智慧代理開發平臺。基於這套系統,希姆計算為廣州某社羣定製開發了一個便捷的社羣服務助手。據稱該助手可以提供37類、超2000項服務,社羣服務諮詢的準確性從原來的30%提高到了現在的95%以上。
在AI推理效能方面,STCP920 AI加速卡已經經過國內頭部網際網路廠商50多個模型測試,平均下來,希姆計算的12nm板卡推理效能是英偉達7nm A10的108%,可以說是兼顧通用性和高效能的解決方案,也是全球第一個量產的基於RISC-V的AI推理卡。
尤為重要的是,希姆計算採用的12nm工藝節點可以很好地規避製程受限的問題,無論是TSMC南京工廠還是中芯國際都可以支援這一工藝節點。
03.
將底層技術標準制定握在自己手裡,
中國科技產業或實現歷史性突破
在完成自身技術和產品體系化、產業化的基礎上,希姆計算進一步積極推動RISC-V行業新標準制定的舉措,給全球晶片產業各方帶來了重要價值,對中國科技產業發展也有著歷史性意義。
對CPU廠商來說,有了完整指令集以及各種擴充套件支援,CPU增加AI相關的特性功能就會更加便利;SoC晶片公司也可以針對不同方向做更多的組合,根據應用場景來做更好的晶片設計。
此外,對於在“大算力”領域做AI加速器的公司來說,指令集標準的完善對軟體生態和應用的建設都非常有幫助。
今天,從資料中心到車載、機器人、AI PC、AI手機、AIoT,不同場景都有不同的公司在聚焦,如果能夠在晶片指令集架構層面形成統一,各家的軟體生態就可以更好的融合。
千變萬化的應用都可以追溯到同一個基礎指令集,將非常有助於整個產業的蓬勃發展。
除了對全球晶片產業的重要推動作用,0.5版本的釋出對中國科技產業在全球市場掌握更多話語權也有著重要意義。
0.5版本的釋出,意味著中國公司為國際社羣作出了重要貢獻,並且在關鍵的標準制定層面跑在了前面。
正如希姆計算CEO梅迪所說,如果中國企業能先行一步,成為標準的主要制定者和推動者之一,就可以讓國內的軟體和應用生態能夠更多的被國際接受、一起融合發展。
這也是為什麼要有更多中國公司來做這件事,去為標準的統一做貢獻,去儘可能多的爭奪話語權。
今天,放眼晶片、AI乃至整個科技產業,受到地緣政治的影響,隸屬於一個國家的一套技術路線往往都難以推廣至全球範圍內被積極採用。
但同時產業又呼籲生態的融合發展,因此唯一的解決方式就是採用一套不隸屬於任何國家的開源技術路線,這也是RISC-V方案的突出優勢之一。
在當今國家資料資產治理和轉型的關鍵發展階段,一個開放、穩定、安全、融和、去中心化以及保持和國外接軌的算力底層技術路線顯得尤為重要。
縱觀資訊時代全球科技產業的發展,中國在絕大部分重要的底層技術路線上,都沒能將標準化工作掌握在自己手裡,要做到底層技術話語權的掌控,是非常難的一件事。
而今天希姆計算推動RISC-V在AI方向上的一系列標準制定工作,顯然是有重大意義的,也必然會在未來展現出巨大價值。
04.
結語:在晶片產業“種樹”,
希姆計算瞄準的是AI更大的未來
從2019年選擇差異化市場競爭、佈局RISC-V相關技術,到2022年自研AI加速卡踩中大模型風口,再到如今全球RISC-V矩陣擴充套件指令集標準的建設成為必須要做的事情。
從摸著石頭過河到如今產業化落地,希姆計算無疑是在全球RISC-V生態建設中走的最早的一批中國企業。他們從幕後走到臺前,從摸索追趕到推動矩陣指令集標準的完善,領跑細分賽道。
用梅迪的話來說,希姆計算希望把自己的技術路線、方案等沉澱下來,爭取讓行業中其他公司可以跟隨,從而實現對行業的引領。
從底層做起、紮紮實實,雖然初期挑戰重重,但完成後卻能夠迸發出巨大商業化潛力。
希姆計算所做的事情就好比在晶片產業中“種樹”,而種一棵樹,最好的時間就是今天。
本站內容由互聯網用戶自發貢獻,該文觀點僅代表作者本人。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容,請發送郵件至舉報,壹經查實,本站將立刻刪除。