阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

asd

IT之家 2 月 7 日消息，阿里巴巴（中国）有限公司今日发文宣布，阿里云 PAI Model Gallery 已经支持 DeepSeek-V3、DeepSeek-R1 以及所有蒸馏小参数模型（DeepSeek-R1-Distill）一键部署。
据介绍，Model Gallery 是阿里云人工智能平台 PAI 的产品组件，它集成了国内外 AI 开源社区中优质预训练模型，涵盖了 LLM、AIGC、CV、NLP 等各个领域。
</p>IT之家附 PAI Model Gallery 一键部署 Deep Seek-V3、Deep Seek-R 步骤如下：

1. 进入 Model Gallery。

• 登录 PAI 控制台。
  
• 在顶部左上角根据实际情况选择地域。
  
• 在左侧导航栏选择工作空间列表，单击指定工作空间名称，进入对应工作空间内。
  
• 在左侧导航栏选择快速开始 ＞ Model Gallery。
  

</p>2. 在 Model Gallery 页面的模型列表中，单击找到并点击需要部署的模型卡片，例如“DeepSeek-R1-Distill-Qwen-7B”模型，进入模型详情页面。
</p>3. 单击右上角部署：目前 DeepSeek-R1 支持采用 vLLM 加速部署；DeepSeek-V3 支持 vLLM 加速部署以及 Web 应用部署；DeepSeek-R1 蒸馏小模型支持采用 BladeLLM（阿里云 PAI 自研高性能推理框架）和 vLLM 加速部署。选择部署方式和部署资源后，即可一键部署服务，生成一个 PAI-EAS 服务。
</p>4. 使用推理服务。部署成功后，在服务页面可以点击“查看调用信息”获取调用的 Endpoint 和 Token，想了解服务调用方式可以点击预训练模型链接，返回模型介绍页查看调用方式说明。
</p> </p>

此文章来自:IT之家如有涉及侵权请通过邮箱联系:fnhjeqj@163.com删除。