English 简体中文 繁體中文 한국 사람 日本語 Deutsch русский بالعربية TÜRKÇE português คนไทย french
查看: 12|回复: 0

德承GP-3100 x DeepSeek:边缘运算工控机在Windows系统下私有化部署DeepSeek-R1 AI模型教程

[复制链接]
查看: 12|回复: 0

德承GP-3100 x DeepSeek:边缘运算工控机在Windows系统下私有化部署DeepSeek-R1 AI模型教程

[复制链接]
查看: 12|回复: 0

381

主题

0

回帖

1153

积分

金牌会员

积分
1153
dsujbhui

381

主题

0

回帖

1153

积分

金牌会员

积分
1153
2025-2-12 21:20:54 | 显示全部楼层 |阅读模式
2025年春节前夕,中国人工智能企业深度求索(DeepSeek)发布其开源AI模型DeepSeek-R1,性能对标OpenAI开发的GPT-o1正式版,一时之间各类相关的话题引爆国内外。除了可以在手机上安装APP或在其官网线上体验之外,由于其模型开源,近期也有许多家科技巨头陆续宣布接入DeepSeek,多款第三方的应用也如雨后春笋般涌现。

当然,我们也可以在工控机上进行私有化部署,推进边缘运算的AI应用,所有数据都保存在本地,隐私更安全,也可避免由于官网访问量大造成的卡顿及延迟问题,响应速度更快。紧接着让我们来看看如何在本地进行部署吧!
GP-3100私有化部署DeepSeek-R1 AI模型教程
一、硬件配置
德承工控机型号:GP-3100
CPU:Intel® Core® i7-14700
GPU:NVIDIA® GeForce RTX 4090
内存:DDR5 5600 MHz 64GB
存储:SSD 2TB
系统:Windows 10

二、安装Ollama
Ollama是一款可在本地电脑部署大模型(LLM)的开源工具,支持多种LLM,并提供跨平台支持,可通过命令行或API来运行模型,可用于文本生成、问答系统和代码生成等多个应用场景。
三、安装DeepSeek-R1
安装好Ollama之后,接着部署AI模型
可参考Ollama 提供的模型下载地址:https://ollama.com/library/deepseek-r1


  • 版本配置需求:
    我们可以看到DeepSeek-R1提供很多个版本,版本越高配置需求也越高,可依照实际应用的情况来选择对应的版本,整理配置需求如下表供参考

  • 本篇以安装1.5B版本为例,按Win+R键,输入cmd,打开Windows系统的命令提示符,
    输入命令安装
    ollama run deepseek-r1:1.5b
如要安装7B版本,则命令最后的1.5b改为对应版本7b即可,其他版本以此类推
ollama run deepseek-r1:7b

  • 接着会自动进行下载,1.5B版本的模型容量1.1GB,下载时间较久需耐心等待

  • 下载完成后,提示success,此时已经可以在此界面直接进行操作

四、安装UI可视化界面
由于在命令提示符里面使用DeepSeek-R1还是不够直观,我们可以安装UI可视化界面,在此采用的是Chatbox软件

  • 访问Chatbox的官网:https://chatboxai.app/zh
    下载适配系统的软件

  • 运行下载的档案Chatbox-1.9.8-Setup.exe,进行安装

  • 选择安装档案存放位置

  • 安装完成

  • 运行Chatbox,选择:使用自己的API Key或本地模型

  • 选择:Ollama API

  • 选择模型:deepseek-r1:1.5b,点击保存

  • 完成部署,现在可以在本地使用可视化的DeepSeek-R1了,问问TA~你是谁

五、结语
通过以上的教程,我们在德承工控机GP-3100上完成了DeepSeek-R1 AI模型的私有化部署,机器搭载的RTX 4090显存24G,可安装到DeepSeek-R1-14B这个版本,如果需要安装更高阶的DeepSeek-R1,则需要更高的显卡配置,GP-3100可搭载2张高性能显卡,充分凸显了GPU运算电脑的优势,为AI应用提供了更多的可能性。

参考网址1:
https://www.cincoze-china.com/goods_info.php?id=536
参考网址2:
https://ollama.com/library/deepseek-r1
参考网址3:
https://api-docs.deepseek.com/zh-cn/news/news250120
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

381

主题

0

回帖

1153

积分

金牌会员

积分
1153

QQ|智能设备 | 粤ICP备2024353841号-1

GMT+8, 2025-3-10 15:24 , Processed in 0.757605 second(s), 30 queries .

Powered by 智能设备

©2025

|网站地图