> 首页>新闻中心>企业新闻 > 此芯科技完成DeepSeek R1系列模型适配, 开启智能算力新篇章
此芯科技完成DeepSeek R1系列模型适配, 开启智能算力新篇章

近日,此芯科技宣布成功完成DeepSeek R1系列模型在此芯P1平台上的端侧异构适配,进一步释放高能效智能算力的潜力,标志着此芯科技在智能算力领域迈出了坚实的一步,为人工智能产业带来更多创新可能。


实现端侧异构赋能


早在2024年5月,DeepSeek V2开源模型发布之际,此芯科技便敏锐地捕捉到这一技术前沿动态,并迅速启动了与此芯SoC的异构适配工作。


时隔不久,DeepSeek R1的正式发布迅速成为AI领域的焦点。DeepSeek R1采用强化学习训练,推理时包含大量反思和验证,思维链长度可达数万字。在数学、代码以及复杂逻辑推理任务上,DeepSeek R1 有着出色的表现,能取得媲美 OpenAI o1 的推理效果,还能为用户展现完整的思考过程。


此芯科技再次展现了高效的技术实力,成功实现了DeepSeek R1系列模型的蒸馏版本在此芯P1平台上的异构适配,包括DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B和DeepSeek-R1-Distill-Qwen-14B等版本。


实测数据显示,在此芯P1平台上,DeepSeek-R1-Distill-Qwen-7B模型的推理速度可达10 tokens/s,DeepSeek-R1-Distill-Qwen-1.5B模型的推理速度将近40 tokens/s,展现出强大的端侧AI计算能力。


图片1.png


加速端侧AI应用普及


DeepSeek凭借卓越的算法优化能力,成功降低了AI模型的训练和推理成本,并通过模型蒸馏技术显著提升小模型的运行效率,使其在资源受限的环境下依然具备优异的推理性能。这一突破将进一步加速端侧AI应用的普及。通过此次适配,此芯科技不仅推动了DeepSeek-R1模型在此芯P1平台上的chatbot高效本地部署,同时基于微软VSCode插件调用DeepSeek-R1本地模型作为服务端进行代码辅助生成,突破传统云端依赖,实现本地模型的高速运行,保障数据安全与处理速度。此外,该插件与VSCode编辑器深度整合,开发者无需额外学习成本,即可轻松上手,为开发者们带来了全新的编码体验。


R1-Stilled-Qwen7B-VS-Code-P1-EVB-2.jpg



加强端侧AI生态构建


未来,此芯科技将充分发挥此芯P1平台在端侧AI异构算力方面的优势,持续优化AI模型的本地部署方案,并携手产业链上下游合作伙伴,共同推动AI PC等智能终端生态的发展,为人工智能行业注入更多创新动力。此次DeepSeek R1模型的成功适配,不仅提升了此芯科技在端侧智能算力领域的竞争力,也为整个产业链的协同发展提供了有力支撑。在此基础上,此芯科技也将进一步推进DeepSeek Janus Pro多模态大模型的异构适配,进一步拓展端侧AI的应用场景。紧跟时代前沿,此芯科技将继续秉承创新、高效、合作的理念,推动人工智能技术的持续进步,为用户带来更智能、更高效的产品和解决方案。