Comment puis-je utiliser le service tensorflow pour plusieurs modèles

Question

Comment puis-je utiliser plusieurs modèles tensorflow? J'utilise un docker.

model_config_list: {

  config: {
    name: "model1",
    base_path: "/tmp/model",
    model_platform: "tensorflow"
  },
  config: {
     name: "model2",
     base_path: "/tmp/model2",
     model_platform: "tensorflow"
  }
}

Answer 1

Construit une image docker à partir du tensorflow serving Officiel fichier docker

Puis à l'intérieur de l'image docker.

/usr/local/bin/tensorflow_model_server --port=9000 --model_config_file=/serving/models.conf

ici /serving/models.conf est un fichier similaire au vôtre.