2月24日消息,兆芯官方宣布,基于兆芯處理器的PC筆記本/臺式機終端、工作站、服務器,已經全系成功實現DeepSeek-R1 Distill模型的本地部署,涵蓋1.5B、7B、14B、32B、70B、671B等各種參數規模。
操作系統方面,兆芯原生支持Linux、Windows、各家國產操作系統,并適配國產GPU AI加速卡。
KX-7000臺式機本地部署DeepSeek-R1-7B模型
基于開先KX-7000桌面處理器的臺式機,通過搭配國內顯卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分發揮DeepSeek強大的語義理解和推理能力。
通過與WPS Word、Excel、VSCode等常用工具的整合,可以實現智能文檔處理、數據處理、智能編程等功能。
智能文檔處理
智能數據處理
智能編程
KX-7000是兆芯新一代的高性能桌面PC處理器,采用全新的“世紀大道”自主內核微架構,以及先進的Chiplet互連架構,集成8個CPU核心,共享32MB 三級緩存,最高工作頻率可達3.7GHz。
KH-40000/16工作站部署DeepSeek-R1-32B模型
基于KH-40000/16服務器處理器的工作站“聯和東海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。
該工作站配備了4塊高性能的國產GPU推理加速卡,可提供高性價比、穩定高效的推理能力,而優化的CPU與多GPU間互連架構,可有效提升傳輸帶寬,降低延遲。
它還采用了低功耗、靜音設計,適合智能辦公等桌面本地化AI推理場景。
聯和東海XRS302 AI工作站
KH-40000/32雙路服務器部署DeepSeek R1 671B模型
在服務器端,開勝KH-40000/32處理器可提供雙路64核心的高性能計算能力,支持2TB海量內存,提供強大的擴展能力。
通過搭配國內加速卡,開勝KH-40000/32服務器已成功完成DeepSeek-R1-70B版本的適配和部署,適用于數學、編程、推理等應用領域。
兆芯服務器終端上成功部署DeepSeek-R1-70B版本
同時,針對滿血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情況下,開勝KH-40000/32處理器已經完成本地部署,完整驗證了兆芯服務器CPU架構承載千億參數模型的硬件能力。