开云电竞(官方网站)-中国大陆专属门户网站

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!-开云电竞

17605692585

行业新闻

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!

发布时间:2025-03-04点击次数:

  据介绍,DeepEP 是一个用于 MoE(混合专家)模型训练和推理的开源 EP(expert parallelism,专家并行)通信库,主要适用于大模型训练,特别是需要 EP 的集群训练。它通过优化通信信道的使用率,提升了训练效率。开云电竞网摩尔线程基于 MUSA Compute Capability 3.1 全功能 GPU 适配了 DeepEP,并支持以下特性:

  DualPipe 是 DeepSeek-V3 提出的双向流水线并行算法,通过前向计算与后向计算阶段的计算与通信完全重叠,减少了“流水线气泡”(设备空闲等待)。摩尔线程依托深度学习框架 Torch-MUSA(已开源)和 MUSA 软件栈全方位的兼容性,实现了对 DualPipe 这一算法的支持。

  DeepSeek上线时间也不短了,各种各样的AI应用厂商也纷纷接入,但我们似乎忘了最初令DeepSeek出圈的最大特色——更小的性能开销和不依赖CUDA单元。而得益于此,国产芯片厂商也迎来了表现的机会。摩尔线程GPU对DeepSeek进行了深度支持,包括了开源通信库 DeepEP 和并行算法 DualPipe,也是获得了端侧运行DeepSeek的能力。不过,相比于主流的部署方案,摩尔线程GPU的性能还是太弱了些……期待能出现更强的AI特化产品吧。

  新 闻 2: 兆芯官宣:全系列整机形态成功部署DeepSeek R1大模型

  兆芯 ,基于其高性能通用处理器的PC终端、工作站以及服务器成功实现DeepSeek-R1-Distill模型(1.5B/7B/32B/70B/671B等)的本地部署,在保证推理效率的同时,能够提供灵活的算力选择,以满足不同规模和需求的推理生成应用,面向用户提供安全、智能、高效的AI应用体验。

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!(图1)

  兆芯高性能通用处理器具备覆盖笔记本、台式机、工作站、服务器的全栈硬件解决方案能力,以及强大的软件生态,原生支持以Linux、Windows、国产操作系统、及国产GPU加速卡等为基础的DeepSeek大模型生态。

  KX-7000台式机 - 成功本地部署DeepSeek-R1-7B模型,实现高性能桌面平台与先进AI模型的完美结合,充分发挥DeepSeek强大的语义理解和推理能力, 通过与WPS Word、Excel以及VSCode等常用工具的整合,可以实现智能文档处理、数据处理以及智能编程等功能,为用户带来显著的生产力提升和智能化体验。

  KH-40000/16服务器 - 成功部署DeepSeek-R1-7B/14B/32B模型,采用联和东海XRS302 AI工作站平台,搭配4张国内高性能GPU推理加速卡,可以提供信创+AI融合的高性价比、稳定高效的推理能力。

  KH-40000/16工作站 - 成功部署DeepSeek-R1-32B模型,不仅能够更好发挥模型的强大能力,还能在性能、效率和稳定性上实现全面优化,为更智能的AI应用提供强有力的支持。

  KH-40000/32双路服务器 - 支持本地部署DeepSeek R1 671B模型,能够为数学、编程和推理等多个领域应用提供安全可靠、高性能的平台与解决方案。

  兆芯凭借已建立的完善且成熟的软硬件自主生态,支持多款国产GPU卡以及麒麟、统信、中科方德等国产操作系统,为部署DeepSeek模型提供了高性能、低成本、自主可控的解决方案。

  而另一国产芯片——兆芯,则同样受益于DeepSeek低性能开销的特性,目前,已经在多款设备上支持了DeepSeek R1大模型的部署。当然,由于配置的不同,部署的尺寸总7B到671B不等,但也算是起了个好头,希望能看到更多的国产硬件和国产AI的配合。

  新 闻3: 消息称小鹏自研图灵芯片有望 5 月上车:全面放弃英伟达 Thor,性价比高太多

  小鹏汽车于去年 8 月 宣布自研图灵芯片流片成功 ,40 核心可运行 30B 参数 AI 大模型,号称面向 L4 自动驾驶打造。

  据雷峰网今日援引知情人士消息,小鹏汽车自研芯片将在今年 5 月份实现首次上车。据悉,今年 5 月底或 6 月初,小鹏汽车将发布一款全新车型,该车将是搭载自研芯片的首款车型。

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!(图2)

  知情人士称,单颗图灵芯片算力比英伟达 Orin X 的 254 TOPS 强大很多,只比还未量产的英伟达 Thor 的中配版低一点。“(图灵芯片算力)对于小鹏来说是足够了,而且性价比比 Thor 高太多了。”

  该知情人士还透露,小鹏汽车现在“完全不鸟英伟达了”,只是在涉及此前 Orin 芯片项目时才有联系。据透露,小鹏汽车接下来所有全新车型都将会搭载自研芯片,不再计划搭载 Thor 芯片。

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!(图3)

  报道还提到,今年小鹏汽车将有多款全新车型会上市,规划之中的 G01 是比 G9 更大的一款 7 座 SUV;还有一款全新车型叫 G7,比 G6 更高一级;此外,MPV 车型 X9 的改款车型将会增加增程版本。“全新车型可能有 4 个,算上大改款、小改款,小鹏今年的新车型或多达十几款。”上述知情人士表示。

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!(图4)

  IT之家从小鹏汽车发布会获悉,小鹏图灵 AI 芯片可同时应用在 AI 机器人、AI 汽车、飞行汽车上,号称与英伟达 Orin X 相比一颗顶三颗,自动驾驶、智能座舱大模型都可驱动。去年 10 月份,小鹏已经在图灵芯片上跑通了智驾功能。

【硬件资讯】国产AI还是得用国产硬件啊!兆芯、摩尔线程全面支持DeepSeek其他AI芯片也在路上!(图5)

  小鹏汽车还表示,经过深度定制,图灵芯片算力可达到 100% 极致利用,未来 AI 汽车将搭载至少 3 颗图灵芯片。

  而在DeepSeek以外的应用AI领域,智驾显然是很好的应用场景。而国产新能源汽车厂商中,小鹏显然选择了更难但做好之后收益更高的选择——自研芯片。事实上,新能源车企中的领头羊选手——特斯拉,就是这样选择的。据称新的专用芯片会比NVIDIA Orin X算力还要高,而且可能在5月底或6月初就会有首款芯片搭载,不知道这种专用的AI芯片能不能再智驾领域有更好的表现了。

17605692585
E-mail

1715522968@qq.com

扫一扫,添加微信

Copyright © 2025 开云电竞(Kering Esports) 版权所有    备案号:皖ICP备15026432号