國產GPU鼎力支持!摩爾線程快速部署DeepSeek
DeepSeek V3、R1系列開源AI大模型在多語言理解、復雜推理任務中展現了卓越性能,不僅推動了AI技術的普及與發展,更是對開源社區的極大貢獻。
2025-02-05 09:39:56
來源:快科技??

快科技2月4日消息,DeepSeek V3、R1系列開源AI大模型在多語言理解、復雜推理任務中展現了卓越性能,不僅推動了AI技術的普及與發展,更是對開源社區的極大貢獻。

目前,各家科技巨頭都已紛紛開始支持、部署DeepSeek,國產硬件也在加速支持。

作為國產全功能GPU創新企業,摩爾線程快速實現了對DeepSeek蒸餾模型推理服務的高效部署,可讓更多開發者基于摩爾線程全功能GPU,進行AI應用創新。

一鍵體驗地址:

https://playground.mthreads.com

此外,用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡,進行DeepSeek-R1蒸餾模型的推理部署。

其實早在1月28日,就已經有B站UP主在摩爾線程MTT S80上手動完成實踐:

https://www.bilibili.com/video/BV18YfQYEEs2

通過DeepSeek提供的蒸餾模型,能夠將大規模模型的能力遷移至更小、更高效的版本,在國產GPU上實現高性能推理。

摩爾線程基于自研全功能GPU,通過開源與自研雙引擎方案,快速實現了對DeepSeek蒸餾模型的推理服務部署。

開源框架適配:

基于Ollama開源框架,摩爾線程完成DeepSeek-R1-Distill-Qwen-7B蒸餾模型的部署,并在多種中文任務中展現了優異的性能,驗證摩爾線程自研全功能GPU的通用性與CUDA兼容性。

自研引擎加速:

通過摩爾線程自主研發的高性能推理引擎,結合軟硬件協同優化技術,通過定制化的算子加速和內存管理,顯著提升了模型的計算效率和資源利用率。

這一引擎不僅支持DeepSeek蒸餾模型的高效運行,還為未來更多大規模模型的部署提供了技術保障。 

最后,摩爾線程即將開放自主設計的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸餾模型的分布式部署。

夸娥集群集成先進推理技術與分布式計算框架,將確保大規模模型的高效穩定運行,助力開發者快速實現業務落地。

最新文章
1
家電擁有“火眼金睛”!海爾發布“AI之眼”邁向無人家務
2
最具性價比Mini AI-LED壁紙電視推薦!康佳G9W全渠道開售,限時新品活動閉眼入!
3
1-2月制造業“成績”出爐:集成電路、工業機器人等高技術產品產量激增
4
大尺寸化趨勢驅動煥新,2月線下零售總額同比增長26.6%
5
史上最貴蘋果手機!曝折疊屏iPhone最快明年量產上市
6
空調出貨量暴增50% !盧偉冰稱小米要比友商跑得更快 董明珠怕嗎
7
國產屏一哥 京東方2024年PCT國際專利申請量全球第6
8
啄木鳥暴露的家電維修行業頑疾,3?15后能治好嗎?
9
掃地機器人市場迎新“霸主”,石頭科技如何“掃”出國際新高度?
10
屏幕技術新突破:國產Real RGB OLED今年量產上市!
11
iPhone 17 Air:從6.9英寸縮至6.6英寸,只為避免重現“彎曲門”!
12
華為發布會新品前瞻:新形態手機領銜,還有多款智能終端和新車
13
全系標配滿級防水冠絕同檔,OPPO A5 系列首發體驗
14
好太太AI晾衣機-隱嵌大師:以三大革新重新定義智能晾曬標準
15
AWE2025即將啟幕:頂級展商陣容“首發上?!?,AI科技煥新生活
16
圖解《未來家:中式健康廚房進化白皮書》
17
2025三星家電新品發布會將于3月21日啟幕,邀您體驗“有AI的科技·藝術·家”
18
全球電動兩輪車(歐洲篇):關稅持續加碼,企業如何破局?
19
二月份中國電視市場同比微增1.6%,“國補”下的2025年有望止跌
20
高通發布第三代驍龍G3游戲平臺 性能不如手機強 官方回應
關于我們

微信掃一掃,加關注

商務合作
  • QQ:61149512
国产精品第25页|欧美中文字幕在线一区|人人操人人摸97|超碰人人青青久久