驍龍8至尊版助力端側AI全面提升 高通CEO安蒙：App生態將發生變革
2024-10-25 01:41:48 5
鳳凰網科技訊（作者/於雷）北京時間10月22日，驍龍8至尊版正式釋出，移動端AI表現全面發力。高通CEO克里斯蒂亞諾·安蒙表示，未來智慧手機重要體驗將圍繞AI展開，手機將成為最重要的AI智慧體，人們與手機之間的互動將圍繞著個人需求展開，現有的App生態將產生巨大的變革。
驍龍8至尊版搭載第二代Oryon CPU和增強的高通HexagonNPU，利用高通AI引擎優勢，能夠帶來更強大的終端側生成式AI處理能力。
結合高通AI軟體棧以及行業領先的工具套件，包括高通AI模型增效工具包（AIMET）等，為模型提供了全棧最佳化能力。透過使用基於硬體的INT4量化技術，可以大幅提升終端側的執行效率，端側推理實現首個token生成時延達到150ms，解碼速率達到超過30 tokens/秒。
高通宣佈與騰訊混元合作，基於驍龍8至尊版移動平臺，共同推動了騰訊混元大模型7B和3B版本的終端側部署。透過利用終端側AI加速，降低運營成本，進一步擴充套件生成式AI在終端側的應用和普及。
此外，智譜也是高通在大模型方面的合作伙伴，智譜的GLM-4V端側視覺大模型會面向驍龍8至尊版進行深度適配和推理最佳化，支援多模態互動。
本站內容由互聯網用戶自發貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容,請發送郵件至舉報，壹經查實，本站將立刻刪除。