研华边缘AI Box MIC-ATL3S部署Deepseek R1模型
随着深度求索(DeepSeek)大模型的发布引发行业热议，研华科技基于昇腾Atlas平台边缘AI Box MIC-ATL3S正式发布与Deepseek R1模型的部署流程。该平台依托昇腾芯片的强大异构计算能力，结合研华边缘AI Box高可靠特点，通过模型轻量化、算子适配等技术实现大模型边缘端部署。硬件部署/
CPU：Atlas 310P
10个DaVinciV200 AI core，主频最高达1.08GHz
16个64位TaishanV200M处理器核，核主频最高1.9GHz
8个DaVinciV200 Vector core，主频最高达1GHz
内存：24G LPDDR4
AI算力：176TOPS INT8
操作系统：OpenEuler
模型：DeepSeek-R1
推理模型/
根据MIC-ATL3S硬件规格，我们选取了DeepSeek-R1-Distill-Qwen-1.5B这个精度和对硬件配置要求相对平衡的蒸馏模型进行适配和部署。
部署步骤/
昇腾310P + openEuler22.03部署deepseek-R1
1. 安装驱动包以及CANN
前往昇腾社区获当前芯片版本的驱动、FW、以及CANN(昇腾异构计算架构)
driver：Ascend-hdk-310p-npu-driver_xxxxx_linux-aarch64_chip-enable.run Firmware：Ascend-hdk-310p-npu-firmware_xxxxx_chip-enable.run CANN：Ascend-cann-toolkit_xxxxx_linux-aarch64.run
2. 安装依赖组件
3. 安装mindspore (昇思模型框架)
4. DeepSeek-R1模型拉取
拉取模型指令，以1.5B为例
yum install git-lfs -y git lfs install git clone https://ai.gitee.com/hf-models/DeepSeek-R1-Distill-Qwen-1.5B
克隆完成示例如下，包含HF完整的仓库：
5. 模型转换
下载后的模型为safetensors格式，还不能直接使用，先用transformers转换为ONNX格式，再使用atc转换为OM(昇腾)格式才能使用。
创建python脚本将safetensors格式转换为ONNX格式，最终转换为OM格式。
执行脚本后会生成对应模型文件，生成对应格式模型文件 执行：
Python3 convert.py ./convert.sh
最后，需要用一个简单的python脚本去做互动窗口，运行指令：python3 deepseek_r1.py
示例：
总结：目前研华进行MIC-ATL3S适配更多Deepseek模型，以及与生态伙伴展开具体应用场景测试，后续我们会持续公布研华边缘AI平台产品的部署&测试内容，敬请关注。
研华昇腾310系列边缘AI平台
研华基于昇腾Atlas 310系列平台开发出三款不同形态的边缘AI产品：工业标准化AI模组、边缘AI开发套件以及边缘AI盒子。此系列产品算力高达176 Tops，专注于工业场景下的细分应用。同时，在软件方面，研华聚焦底层开发，定期更新SDK套件以满足客户的开发需求，并自主研发工业领域远程部署和管理工具。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。 举报投诉
[*] AI AI
+关注
关注
87
文章
31834
浏览量
270598
[*] 研华 研华
+关注
关注
0
文章
375
浏览量
38767
[*] 昇腾 昇腾
+关注
关注
1
文章
139
浏览量
6666
[*] DeepSeek DeepSeek
+关注
关注
1
文章
309
浏览量
98
[*]华秋PCB 6层板首单99元
[*]华秋SMT免费贴片
优惠升级，不限次数一口价低至299元！
原文标题：研华正式发布国产化昇腾AI Box与Deepseek R1模型部署全流程！
文章出处：【微信号：研华智能地球，微信公众号：研华智能地球】欢迎添加关注！文章转载请注明出处。
收藏 0人收藏 扫一扫，分享给好友
复制链接分享
评论
林超文PCB设计：PADS教程，PADS视频教程郑振宇老师：Altium Designer教程，Altium Designer视频教程张飞实战电子视频教程朱有鹏老师：海思HI3518e教程，HI3518e视频教程李增老师：信号完整性教程，高速电路仿真教程华为鸿蒙系统教程，HarmonyOS视频教程赛盛：EMC设计教程，EMC视频教程杜洋老师：STM32教程，STM32视频教程唐佐林：c语言基础教程，c语言基础视频教程张飞：BUCK电源教程，BUCK电源视频教程正点原子：FPGA教程，FPGA视频教程韦东山老师：嵌入式教程，嵌入式视频教程张先凤老师：C语言基础视频教程许孝刚老师：Modbus通讯视频教程王振涛老师：NB-IoT开发视频教程Mill老师：FPGA教程，Zynq视频教程C语言视频教程RK3566芯片资料合集朱有鹏老师：U-Boot源码分析视频教程开源硬件专题
发布评论请先 登录
相关推荐
添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略
，Gemma 和其他多种模型，在安装Ollama工具之后，使用以下命令即可一键部署15亿参数的deepseek-r1模型，运行之后如下图所示：ollama run
发表于 02-14 17:42
IBM在watsonx.ai平台推出DeepSeek R1蒸馏模型
，进一步增强企业在安全、治理以及规模化部署方面的能力。 DeepSeek R1是IBM在AI领域的一项重要创新，它采用了蒸馏模型技术，能够在
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-14 10:21 •56次阅读
了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择
）；二者均支持API调用，可根据业务需求混合部署（如用V3处理前端交互，R1负责后端计算）。在电子工程领域选用哪个模型最合适，有其他更好的模型
发表于 02-14 02:08
日海智能AI模组接入DeepSeek R1模型
生成式AI掀起的技术革命正在重塑全球产业格局。近期，在国产大模型DeepSeek R1发布后，因其开放性、更低训练成本等优势迅速点燃了一场聚焦中国A
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-13 10:34 •229次阅读
DeepSeek模型成功部署，物通博联在 AI 赋能工业上持续探索、不断前行
和二次开发，DeepSeek R1模型的发布迅速点燃了AI产业的革命之火。 DeepSeek R1
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-12 11:15 •139次阅读
Deepseek R1大模型离线部署教程
DeepSeek-R1，是幻方量化旗下AI公司深度求索（DeepSeek）研发的推理模型 。DeepSeek-R1采用强化学习进行后训练，旨
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-12 09:37 •263次阅读
Gitee AI 联合沐曦首发全套 DeepSeek R1 千问蒸馏模型，全免费体验！
模型相比，较小尺寸的 DeepSeek 蒸馏版本模型 更适合企业内部实施部署，可以极大的降低落地成本 。 同时，这次 Deepseek
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-10 09:56 •89次阅读
部署DeepSeek R1于AX650N与AX630C平台
背景 春节前，国产大模型 DeepSeek 横空出世，迅速成为AI领域的焦点。作为端侧AI能效比优异的 AX650N、AX630C 芯片平台早已在节前完成
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-09 09:32 •225次阅读
壁仞科技顺利部署DeepSeek R1千问蒸馏模型
DeepSeek 的国内算力支持队伍进一步壮大：来自上海的壁仞科技顺利部署DeepSeek-R1-Distill千问蒸馏模型(1.5B/7B/14B/32B)，并已上线 Gitee
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-08 16:56 •688次阅读
扣子平台支持DeepSeek R1与V3模型
近日，新一代AI应用搭建平台“扣子”宣布了一项重要更新，即正式支持DeepSeek的R1和V3模型，并向广大用户开放免费体验。 扣子平台一直
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-08 13:42 •436次阅读
DeepSeek-R1本地部署指南,开启你的AI探索之旅
R1 2025.01.20 DeepSeek-R1 发布，DeepSeek R1 是 DeepSeek
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-08 10:30 •2957次阅读
deepin UOS AI接入DeepSeek-R1模型
DeepSeek-R1 模型自发布以来吸引了众多用户关注，为了让 deepin 用户更好地体验这一前沿技术，UOS AI 现已适配接入 DeepSeek-R1 端侧
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-08 09:52 •282次阅读
鲲云科技AI芯片CAISA 430成功适配DeepSeek R1模型
鲲云科技全新一代的可重构数据流 AI 芯片 CAISA 430 成功适配 DeepSeek R1 蒸馏模型推理，这一创新举措为大模型应用的高
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-07 09:57 •472次阅读
云天励飞上线DeepSeek R1系列模型
-Distill-Llama-70B大模型、DeepSeek V3/R1 671B MoE大模型也在有序适配中。适配完成后，DeepEdge
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 02-06 10:39 •261次阅读
研华发布高性能工业边缘 AI 算力方案 携手昇腾引领边缘 AI 革新
盒子 MIC-ATL3S。研华与昇腾的此次战略合作，不仅是全栈式 Edge AI 战略布局的重大突破，更是积
https://www.elecfans.com/d/6455597.html#render_38b46e74788e4f0c3adfd10f8786c6c1 发表于 09-26 10:54 •379次阅读
页:
[1]