TensorFlow-Serving如何切換模型存儲(chǔ)引擎HDFS與S3

小編給大家分享一下TensorFlow-Serving如何切換模型存儲(chǔ)引擎HDFS與S3，希望大家閱讀完這篇文章之后都有所收獲，下面讓我們一起去探討吧！

一、TensorFlow-Serving使用S3存儲(chǔ)模型

• 注意：這里的S3不單單指亞馬遜的S3,也可支持minio等實(shí)現(xiàn)了S3協(xié)議的對象存儲(chǔ)，值得提示的是，在測試過程中，騰訊云cos支持2.2.0及以前版本，對2.3.0存在兼容性問題，minio沒有出現(xiàn)問題。

#請?jiān)O(shè)置如下環(huán)境變量
AWS_ACCESS_KEY_ID=XXXXX                           # 訪問S3需要的ID憑證
AWS_SECRET_ACCESS_KEY=XXXXX                       # 訪問S3需要的KEY憑證
AWS_REGION=us-east-1                              # S3存儲(chǔ)桶的區(qū)域信息，（可選項(xiàng)）
S3_ENDPOINT=s3.us-east-1.amazonaws.com            # S3訪問地址
S3_USE_HTTPS=1                                    # 是否使用HTTPS協(xié)議. 若關(guān)閉設(shè)置為0
S3_VERIFY_SSL=1                                   # 如果使用了HTTPS協(xié)議，控制是否應(yīng)啟用SSL，若關(guān)閉設(shè)置為0

二、TensorFlow-Serving使用HDFS存儲(chǔ)模型

• 目前如果需要使用HDFS作為存儲(chǔ)引擎，需要對現(xiàn)有的docker鏡像進(jìn)行重新打包。

1、下載對應(yīng)的Hadoop包,并解壓

https://archive.apache.org/dist/hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz

2、Dockerfile如下：

FROM tensorflow/serving:2.3.0
RUN apt update && apt install -y openjdk-8-jre
COPY hadoop-2.6.0 /root/hadoop

ENV JAVA_HOME /usr/lib/jvm/java-8-openjdk-amd64/
ENV HADOOP_HDFS_HOME /root/hadoop
ENV LD_LIBRARY_PATH ${LD_LIBRARY_PATH}:${JAVA_HOME}/jre/lib/amd64/server

RUN echo '#!/bin/bash \n\n\
CLASSPATH=$(${HADOOP_HDFS_HOME}/bin/hadoop classpath --glob) tensorflow_model_server --port=8500 --rest_api_port=9000 \
--model_name=${MODEL_NAME} --model_base_path=${MODEL_BASE_PATH}/${MODEL_NAME} \
"$@"' > /usr/bin/tf_serving_entrypoint.sh \
&& chmod +x /usr/bin/tf_serving_entrypoint.sh

EXPOSE 8500
EXPOSE 9000
ENTRYPOINT ["/usr/bin/tf_serving_entrypoint.sh"]

3、Docker Build

docker build -t tensorflow_serving:2.3.0-hadoop-2.6.0 .

4、運(yùn)行 TensorFlow-Serving

docker run -p 9001:9000 --name tensorflow-serving -e MODEL_NAME=resnet -e MODEL_BASE_PATH=hdfs://172.16.36.234:8020/user/model/tensorflow/ -t tensorflow_serving:2.3.0-hadoop-2.6.0

看完了這篇文章，相信你對“TensorFlow-Serving如何切換模型存儲(chǔ)引擎HDFS與S3”有了一定的了解，如果想了解更多相關(guān)知識(shí)，歡迎關(guān)注億速云行業(yè)資訊頻道，感謝各位的閱讀！