文档中心

MXNet 自定义打包镜像说明

准备工作

安装UAI SDK

git clone https://github.com/ucloud/uai-sdk
cd uai-sdk
sudo python setup.py install

准备打包所需文件

准备代码以及模型文件

用户需将AI在线服务所需的代码以及模型文件放在某一路径下，参数pack_file_path上传。文件目录结构示例如下：

/xxx/xxx/xxx/
    code/ (对应参数pack_file_path，绝对路径)
        code_files1
        code_files2
        code_files3
        checkpoint_dir (对应参数model_dir，相对路径)
            model_files1
            model_files2
            model_files3

准备模块配置文件

用户同时需要准备conf.json 来告诉django server如何加载自定义的Inference模块，MXNet的conf.json 结构如下：

{
    "http_server" : {
        "exec" : {
            "main_class": "MnistModel",
            "main_file": "mnist_inference"
        },
        "mxnet" : {
            "model_dir" : "./checkpoint_dir",
            "model_name" : "mnist-model",
            "num_epoch" : 10
        }
    }
}

exec.main_class 用于提示django server应该创建那个Inference 类对象
exec.main_file 用于提示django server应该加载哪个inference python主模块
mxnet.model_dir(可选）对应了MnistModel中self.model_dir的值，用于给Inference 类对象传递模型路径参数。
mxnet.model_name&num_epoch(可选）对应了MnistModel中self.model_name和self.num_epoch，用于给Inference 类对象传递模型名字参数，MXNetAiUcloudModel会根据model_dir, model_name和num_epoch自动生成mxnet的模型文件路径，详情请参见https://github.com/ucloud/uai-sdk/blob/master/uai/arch/mxnet_model.py。

准备命令行工具

为后续操作方便，可将UAI SDK安装包中的命令行工具（undefined安装路径/uai_tools/uai_tool.py）拷贝到代码pack_file_path的同级目录

/xxx/xxx/xxx/
    uai_tool.py (从undefined安装路径/uai_tools/uai_tool.py拷贝)
    conf.json
    code/ (对应参数pack_file_path，绝对路径)
        code_files1
        code_files2
        code_files3
        checkpoint_dir (对应参数model_dir，相对路径)
            model_files1
            model_files2
            model_files3

执行packdocker命令

注：参数具体值根据实际修改

python uai_tool.py packdocker self \
        --bimg_name  \
	--pack_file_path ./code \
        --conf_file conf.json \
        --uhub_username xxxxx \
        --uhub_password xxxxx \
        --uhub_registry xxxxx \
        --uhub_imagename mxnet-inference:test \
        --in_host no

参数说明
1) 公共参数

参数	说明	是否必需
bimg_name	用户指定的基础镜像名字	是
pack_file_path	待打包文件所在路径	是
conf_file	模块配置文件conf.json的名字	是
uhub_username	uhub镜像库登录用户名，即AutoAI的账号邮箱	是
uhub_password	uhub镜像库登录的密码，即AutoAI的账号密码	是
uhub_registry	uhub镜像仓库名称，不支持大写字母	是
uhub_imagename	生成的镜像名称，镜像名与tag间以冒号分割。如test:v1.1	是
in_uhost	优化参数。当前打包程序是否运行在AutoAI云主机中，如果是则为yes，否则为no（默认）。（注：如果运行在云主机中，则可利用内网万兆带宽，加速镜像上传下载）	否

Uai Inference支持的基础镜像列表

请参见dockers中MXNet基础镜像列表。

输出结果

upload docker images successful. images:uhub.ucloud.cn/uai_demo/mxnet-inference:test