DataWorks百问百答10:如何处理编码格式设置问题?

     数据集成的同步任务设置编码格式后,如果数据中包含有表情符,在运行任务时可能出现同步失败且产生脏数据,或同步成功但数据乱码的问题。


(1)同步失败且产生脏数据
      数据集成任务运行失败,且因编码问题产生脏数据,类似报错日志如下所示。

016-11-18 14:50:50.766 [13350975-0-0-writer] ERROR StdoutPluginCollector - 脏数据:<br> 
{"exception":"Incorrect string value: '\\xF0\\x9F\\x98\\x82\\xE8\\xA2...' for column 'introduction' at row 1","record":[{"byteSize":8,"index":0,"rawData":9642,"type":"LONG"},
{"byteSize":33,"index":1,"rawData":"A公司出来的女汉子,扛得了箱子,招待好顾客![1](http://docs-aliyun.cn-hangzhou.oss.aliyun-inc.com/assets/pic/56134/cn_zh/149872864****/%E5%9B%BE%E7%89%877.png)
被自己感动cry","type":"STRING"},
{"byteSize":8,"index":4,"rawData":0,"type":"LONG"}],"type":"writer"}
2016-11-18 14:50:51.265 [13350975-0-0-writer] WARN  CommonRdbmsWriter$Task - 回滚此次写入, 采用每次写入一行方式提交:java.sql.BatchUpdateException: Incorrect string value: '\xF0\x9F\x88\xB6\xEF\xB8...' for column 'introduction' at row 1


对数据库进行编码格式设置或添加数据源时,编码未设置为utf8mb4,导致出现上述问题。仅utf8mb4编码支持同步表情符。


解决方法如下:

  • JDBC格式添加的数据源修改utf8mb4jdbc:mysql://xxx.x.x.x:3306/database?com.mysql.jdbc.faultInjection.serverCharsetIndex=45
  • 实例ID形式添加数据源:在数据库名后拼接,格式为:

  database?com.mysql.jdbc.faultInjection.serverCharsetIndex=45

  • 修改数据源的编码格式为utf8mb4。例如,在RDS控制台修改RDS的数据库编码格式。

注:
如果需要设置RDS数据源编码格式set names utf8mb4,在添加数据源时,必须使用无公网IP和连接串方式。

(2)同步成功但数据乱码**
        出现数据同步任务虽然成功,但数据乱码的情况有以下三种原因:

  • 源端的数据本身是乱码。
  • 数据库和客户端的编码不一样。
  • 浏览器编码不一样,导致预览失败或乱码。


解决方法如下:
      您可以针对产生乱码的不同原因,选择相应的解决方法:

  • 如果您的原始数据乱码,请首先处理好原始数据,再进行同步任务。
  • 如果数据库和客户端编码格式不一致,请先修改编码格式。
  • 如果浏览器编码和数据库或客户端编码格式不一致,请先统一编码格式,然后进行数据预览。

DataWorks百问百答历史记录请点击查看

更多DataWorks技术和产品信息,欢迎加入【DataWorks钉钉交流群】

上一篇:DataWorks On E-MapReduce功能2020年4月3日正式启动商业化


下一篇:对于从零开始建网站的新手拥有一个网站需要哪些步骤和流程(域名+主机+建站程序)