DeepSeek的爆火出圈为国产芯片同期带来了契机与挑战。一方面,新锐模子和AI原生诈欺的爆发会产生更多算力需求,但同期,由于国产芯片在底层架构和软件生态上的互异,何如高效适配AI模子并充分判辨算力后劲成为国产芯片领域亟待惩办的问题。
近日,北京电子数智科技有限连累公司(以下简称“北电数智”)依托其“浮屠·模子适配平台”成功完成DeepSeek V3/R1全尺寸模子与海光DCU、华为、壁仞科技、沐曦等多款国产芯片的混元算力适配,为开拓者和企业提供了更纯真、高效的算力支捏。
时刻更始:DeepSeek模子性能超过
DeepSeek模子行动国产AI时刻的代表,接受了多项更始时刻,包括羼杂民众系统(DeepSeekMoE)、多头潜在刺眼光机制(MLA)以及自研践诺框架。这使DeepSeek在大幅减少算力支出的情况下达成了R1模子与OpenAI o1至极、V3模子与OpenAI 4o至极的性能说明,展现出高推理成果和低践诺老本的上风。
浮屠·模子适配平台:抹平芯片互异,异构算力高效撑捏模子
北电数智“浮屠·模子适配平台”抹平了不同芯片架构的互异,快速达成对DeepSeek模子的优化支捏和硬件适配。用户无需平和底层硬件时刻细节,平台会字据模子调用需求自动匹合作适的算力资源,大幅镌汰了开拓门槛。当今,该平台已完成24款基座大模子的适配职责,为开拓者提供了更多算力选拔。
混元推理时刻:优化成果,镌汰老本
针对DeepSeek类超大模子的推理任务,数据中心的集群化推理时刻显得尤为垂危,举例PD差别(Prefill-Decode差别)时刻就可由不同芯片完成不同阶段推理任求达成。北电数智的混元推理时刻阶梯与DeepSeek的时刻阶梯高度契合,能有用惩办算力不及问题,为大范围AI诈欺创造便利条款。
鼓动国产算力发展:从适配到生态树立
DeepSeek的发展为行业带来了潜入启示:惟有称心国产原生模子的算力需求,智力真确鼓动包含国产算力在内的中国AI产业发展。为全面挖掘国产芯片性能后劲与适配智商,北电数智还推出了“星火·国产算力AI原生适配认证”,促进国产模子与国产算力的深度交融,鼓动国产芯片在AI原生诈欺场景中的迭代与更始。
企业版内测上线:助力AI诈欺落地
当今,北电数智已精致绽放企业版内测做事,通过“北京数字经济算力中心”为雄壮企业和开拓者提供方便、高效的算力支捏。不管是模子践诺也曾推理任务,用户王人不错在多芯混元算力环境下狂妄构建和部署基于DeepSeek模子的AI诈欺。
北电数智的一系列举措九游体育app娱乐,为国产AI芯片与模子的协同发展提供了新念念路。往日,跟着更多企业和开拓者加入,国产算力生态也将迎来愈加稠密的发展空间。