提问者:小点点

普罗米修斯Tensorflow服务


使用Prometheus导出器进行Tensorflow服务的步骤是什么?根据1.11TF服务支持prometheus指标:https://github.com/tensorflow/serving/releases/tag/1.11.0

我正在从示例https://www.tensorflow.org/serving/docker和以下内容启动一个docker:

docker run-p 8501:8501-p 8500:8500\--挂载类型=绑定,\source=/tmp/tf服务/服务/tensorflow_serving/servables/Tensorflow/testdata/saved_model_half_plus_two_cpu,\target=/model/half_plus_two\-eMODEL_NAME=half_plus_two-t Tensorflow/服务

Prometheus配置文件:全局scrape_interval:10sevaluation_interval:10sexternal_labels:监视器:'tf-service-itor'

scrape_configs:-job_name: TensorFlowscrape_interval:5sstatic_configs:-目标:[localhost:8501]

但是prometheus无法找到tf服务公开的指标。是否有一个特定的端口我应该在docker上打开,或者一些参数我应该传递给TF服务?


共1个答案

匿名用户

根据您链接到TensorFlow的发行说明,您可以在/监控/prometheus/metrics导出Prometheus指标(与Prometheus的默认/metrics相反)。因此,至少您需要在配置中添加一个metrics_path

scrape_configs:
  - job_name: 'tensorflow'
    scrape_interval: 5s
    metrics_path: '/monitoring/prometheus/metrics'
    static_configs:
      - targets: ['localhost:8501']

但是首先要确保你可以在浏览器中看到http://localhost:8501/monitoring/prometheus/metrics导出的指标。否则(用浏览器)四处寻找,直到你找到合适的URL(并在配置中反映出来)。