欢迎您访问365答案网,请分享给你的朋友!
生活常识 学习资料

如何保证sqoop数据同步后2边数据量一致

时间:2023-05-13

#1-sqoop导数

sqoop import --connect jdbc:mysql://node1:3306/库名 --username root --password 123456 --table dd_table --hive-table ods.table --fields-terminated-by 't' --hive-import --hive-overwrite --delete-target-dir -m 1

#2-查询MySQL的表的条数

mysql_log=`sqoop eval --connect jdbc:mysql://node1:3306/库名 --username root --password 123456 --query "select count(*) from table"`mysql_cnt=`echo $mysql_log | awk -F '|' '{print $4}' | awk '{print $1}'`

#3-查询Hive表的条数

hive_log=`spark-sql -e "select count(1) from ods.table "`hive_cnt=`echo $hive_log | awk '{print $2}'`

#4-比较2边的条数是否一致

if [ $mysql_cnt -eq $hive_cnt ] ; then  echo "mysql表的条数是$mysql_cnt, Hive表的条数是$hive_cnt,2者一致"else  echo "mysql表的条数是$mysql_cnt, Hive表的条数是$hive_cnt,2者不一致"fi

Copyright © 2016-2020 www.365daan.com All Rights Reserved. 365答案网 版权所有 备案号:

部分内容来自互联网,版权归原作者所有,如有冒犯请联系我们,我们将在三个工作时内妥善处理。