跳转至

自定义容器镜像

概述

Stable Diffusion 亚马逊云科技插件解决方案具有极高的灵活性,您可以随时替换 SageMaker Endpoint 模型的容器镜像。

为了实现这个能力,请按照以下步骤操作:

  • 第一步:构建容器镜像
  • 第二步:使用自定义容器镜像创建 Endpoint
  • 第三步:验证或诊断容器镜像是否正常工作


准备容器镜像

您可自行构建容器镜像(强烈建议您在更换镜像前验证该镜像是否正常),验证后将镜像上传到和部署方案相同区域的 Amazon ECR 中,详细请阅读 将 Amazon ECR 与 AWS CLI 结合使用 ,操作完成后,您将获得一个镜像 URI,如:

{your_account_id}.dkr.ecr.{region}.amazonaws.com/your-image:latest

Dockerfile 模板如下:

# 建议在部署方案后,使用方案创建的 Image 作为基础镜像。
FROM {your_account_id}.dkr.ecr.{region}.amazonaws.com/stable-diffusion-aws-extension/aigc-webui-inference:latest

# 安装插件
RUN mkdir -p /opt/ml/code/extensions/ && \
    cd /opt/ml/code/extensions/ && \
    git clone https://github.com/**.git


使用自定义容器镜像创建 Endpoint

创建名为 byoc 的角色,并将登陆用户添加至该角色,即可开启如下图功能:

UpdateImage


验证或诊断容器镜像

强烈建议您在更换镜像后验证或诊断容器镜像是否正常工作,如需查看日志,您可进入 Endpoint 的日志组查看日志:

  • {region}:方案部署的区域,如:us-east-1
  • {endpoint-name}:Endpoint 名称,如:esd-type-111111
https://{region}.console.aws.amazon.com/cloudwatch/home?region={region}#logsV2:log-groups$3FlogGroupNameFilter$3D{endpoint-name}