提问者:小点点

尝试使用jdbc river ElasticSearch插件进行批次处理作业


我需要编写一些索引作业来每天运行一次,查询我们的Oracle数据库表并将其索引到ElasticSearch中。一些表首先索引,其他表其次索引,因为有表依赖关系。但是围绕索引的过程,我需要增强进入ES索引的字段,以及登录到我们的Oracle数据库表作业状态,甚至可能是索引过程成功/失败的记录。

我可以使用Elastic Search插件JDBC-River吗?


共2个答案

匿名用户

我关心的是在查询后通过插入语句登录回RDBS,以便从DB中提取。我联系了jdbc-river的创建者。他提到了我应该如何配置东西:真的很有帮助!

curl -XDELETE '0:9200/_river/my_jdbc_river/


curl -XPUT '0:9200/_river/my_jdbc_river/_meta' -d '
    {
        "type": "jdbc",
        "jdbc": {
            "url": "jdbc:mysql://localhost:3306/test",
            "user": "",
            "password": "",
            "schedule": "0 0-59 0-23 ? * *",
            "sql": [
                {
                    "statement": "select *, created as _id, \"myjdbc\" as _index, \"mytype\" as _type from orders"
                },
                {
                    "statement": "insert into ack(n,t,c) values(?,?,?)",
                    "parameter": [
                        "$job",
                        "$now",
                        "$count"
                    ]
                }
            ]
        }
    }'

匿名用户

是的,您可以通过在jdbc river中使用轮询参数来做到这一点。详细

投票

JDBC河流运行以给定的间隔重复。这种方法也称为轮询。您可以使用轮询参数指定轮询间隔,该参数采用Elasticsearch时间值。默认值为1h

示例:-

curl -XPUT 'localhost:9200/_river/my_jdbc_river/_meta' -d '{
    "type" : "jdbc",
    "jdbc" : {
        "driver" : "com.mysql.jdbc.Driver",
        "url" : "jdbc:mysql://localhost:3306/test",
        "user" : "",
        "password" : "",
        "sql" : "select * from orders",
        "poll" : "1h" 
    },
    "index" : {
        "index" : "jdbc",
        "type" : "jdbc",
        "bulk_size" : 100,
        "max_bulk_requests" : 30,
        "bulk_timeout" : "60s"
    }
}'

供您参考:-https://github.com/jprante/elasticsearch-river-jdbc/issues/92