IT之家 2 月 4 日音书,阿里云盘算有限公司昨日发文臣宣,阿里云 PAI Model Gallery 撑合手云上一键部署 DeepSeek-V3、DeepSeek-R1。
IT之家附智商如下:
第一步:参预 Model Gallery 页面
点击连结:https://pai.console.aliyun.com/#/quick-start/ models 登陆 PAI 截至台,在顶部左上角把柄践诺情况采纳地域。并在左侧导航栏采纳职责空间列表,单击指定职责空间称号,参预对应职责空间内。终末在左侧导航栏采纳快速运转 > Model Gallery。
第二步:参预 DeepSeek 模子细目页
在 Model Gallery 页面的模子列表中,单击找到并点击需要部署的模子卡片,举例“DeepSeek-R1-Distill-Qwen-7B”模子,参预模子细目页面。
第三步:一键部署 DeepSeek 模子生成处事
单击右上角部署:当今 DeepSeek-R1 撑合手摄取 vLLM 加快部署;DeepSeek-V3 撑合手 vLLM 加快部署以及 Web 愚弄部署;DeepSeek-R1 蒸馏小模子撑合手摄取 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加快部署。采纳部署样式和部署资源后,即可一键部署处事,生成一个 PAI-EAS 处事。
部署得胜后,在处事页面不错点击“查抄调用信息”取得调用的 Endpoint 和 Token,念念了解处事调用样式不错点击预磨砺模子连结,复返模子先容页查抄调用样式说明。
需要注释的是,阿里云官方教程部署的模子为蒸馏事后的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理才能,通过蒸馏时候将推理情势移动到了较小的 Qwen 模子上。同期,阿里云 PAI Model Gallery 也提供 DeepSeek-R1、DeepSeek-V3 原始模子的一键部署。
据IT之家此前报谈,Gitee AI 集中沐曦首发全套 DeepSeek R1 千问蒸馏模子,撑合手全免费体验。秘塔 AI 秘塔 AI 已官宣接入满血版 DeepSeek R1 推理模子。另外,DeepSeek-R1 大模子登陆腾讯云,声称“一键部署、3 分钟调用”