1.导航到 SageMaker 控制台。
2.在 SageMaker 控制台的左侧导航栏中,选择 “模型” 选项。
3.在模型列表中,找到您要部署的模型。选择该模型。
4.点击 “创建端点” 选项或者点击 “创建端点配置” 选项都可以进行部署。
选择创建端点进去后还是会进行
创建端点配置
或者用已有的端点配置
5.在配置端点页面,您需要指定端点名称、端点配置的名称、端点类型
- 端点名称很重要,后面访问的时候要用到的endpoint就是这个了。
- 端点配置名称,这个配置生成后,后面可以直接选择现有端点快速部署端点了。
- 端点类型选已预制哈,不会有severless的冷启动问题。
6.继续在配置端点页面,指定模型、实例类型、初始实例数、初始权重。
7.然后点击创建端点配置
8.创建端点
9.去端点处查看启动情况。