MySQL数据库中数据库移植中的乱码问题

  • 来源: 赛迪网技术社区 作者: 若水   2008-04-28/11:39
  • mysql移植含有中文的数据时,很容易出现乱码问题。很多是在从mysql4.x向mysql5.x移植的时候出现。mysql的缺省字符集是latin1,在使用mysql4.x的时候,很多人都是用的latin1字符集。而当使用mysql5时往往愿意使用utf8。那么我们的任务是不是要把数据中的字符从latin1转为utf8呢? w-;=uE6hJ  
    不是的。 #/j?0 Hx  
    用一句不大准确,但又比较形象的说法是,在之前的系统中,我们是用latin1保存了使用gb系列字符集(gbk、gb2312等)的汉字。怎么这样说呢? c?Espotb  
    ?iD {#W|  
    mysql> show create table test\G `[KN:}Re   
    *************************** 1. row *************************** v<A}-t;(  
    Table: test ;RuKgz\2  
    Create Table: CREATE TABLE `test` ( M;]a?`[9  
    `a` varchar(100) default NULL 57+sW4%O}  
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8 8-+ D& Pp  
    1 row in set (0.00 sec) :r:g](|n  
    Aimiua^N  
    mysql> show create table testlatin1\G II%3L-`  
    *************************** 1. row *************************** S 1 x%  
    Table: testlatin1 <FZo-+  
    Create Table: CREATE TABLE `testlatin1` ( 1T ms=D  
    `a` varchar(100) default NULL rLxb8w0FE  
    ) ENGINE=InnoDB DEFAULT CHARSET=latin1 +<&t=p.  
    1 row in set (0.01 sec) |iS&HXOU  
     I1k{j  
    我们看到这两个表有不同的缺省字符集。此字符集是告诉我们,如果没有特别指定列的字符集,那么字符类型列的字符集与表的缺省字符集一样。 "*$\ k"[  
    S!wx-  
    列的字符集是要告诉mysql,这里面保存的字符所使用的字符集是什么。但到底保存的是什么字符集的字符,不由mysql决定,mysql也不进行检查。 WYx"-}}`b  
    -U> J+6y  
    在utf8广泛使用之前,我们使用的汉字都是GB系列的字符集,比如GB2312、GBK、GB18030等等。 oGZ*+SxN  
    0]s"X\YK  
    在缺省字符集为latin1的mysql中,我们通常就把GB字符集的汉字保存到数据库中,但是却告诉mysql那是latin1字符集。而GB字符集是一个汉字占两个字节,latin1是一个字符占一个字节。也就是说一个GB汉字被当成两个latin1字符来保存了。这让我想起了当初的iso8859_1,也是类似的情况。只要我们保存和读取时都当作latin1,不进行转换,然后在显示时当作gb字符集,就能够正确使用。 lnl9\zEB  
    .%7xddpK  
    那么怎么把latin1保存的汉字正确地导到utf8字符集的数据库中呢? ){> ?  
    8-ewgOd  
    首先,新的数据库中的列,要使用utf8字符集。一种办法是创建database时指定缺省字符集,这样在建表时如果不指定字符集则使用database的缺省字符集。 v1ZdY[$  
    1o)3!;  
    导出的数据要以latin1字符集导出,实际上就是告诉mysql导出时不做转换(因为原有的表都是latin1字符集的)。 YjHW;,&  
    .<VW'ew  
    mysqldump出来以后,再用mysql进行导入时,还要告诉mysql,当前的数据是gb系列的字符集,比如gbk。这样,mysql负责把数据由gbk转换为utf8,保存到数据库中。 }@\*;E.5  
    Cy2sH  
    如何告诉mysql导入的SQL是什么字符集呢,一种方法是用--default-character-set,但有时会起不到实际作用。这是因为mysqldump出来的文件里有set names语句。比如: rx 4/[WGD  
    3&+MD0l  
    head EA192.060913.sql J1eyp_f  
    @F ayrX(Ba  
    -- MySQL dump 10.10 {c{*f~  
    -- ,qjA]s:  
    -- Host: localhost Database: EA192 |/-``O  
    -- ------------------------------------------------------ ~v7+}-L  
    -- Server version 5.0.16-standard-log -v9[ >6$  
    <TAK-I1  
    /*!40101 SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */;#p#分页标题#e# T5IpR |e  
    /*!40101 SET @OLD_CHARACTER_SET_RESULTS=@@CHARACTER_SET_RESULTS */; s7dol  
    /*!40101 SET @OLD_COLLATION_CONNECTION=@@COLLATION_CONNECTION */; GAi!U(3  
    /*!40101 SET NAMES latin1 */; cTF@9S,s`  
    AT0EEooy  
    /*! */是mysql特有有句法,在其他数据库会被当成注释忽略掉。/*!后面的 40101是表示版本,在4.1.1及以上版才执行该条语句。 $S<+a 8^  
    *D $:9hA  
    这里看到有一条SET NAMES latin1。它的一个作用是告诉mysql,客户端传过去的数据是latin1字符集。因为有这样一条SET NAMES,--default-character-set也就起不到作用了。如果不幸有这样一条SQL,那么需要把它去掉或者改成SET NAMES gbk。修改或者删除的办法,当数据量比较大的时候,可以用head和tail来配合。比如还是上面的那个文件: ]{BKh__Q3  
    N8?9yhW  
    先用head看一下SET NAMES在第几行(数一下),上面看到是第10行。 ?g lrJ3  
    IGTMGhrvI  
    wc -l EA192.060913.sql 2 ;5yKy) f  
    1987 EA192.060913.sql XrB-U@R  
    得到总行数是1987 }?#&-Ea9  
    0E=X  
    head -9 EA192.060913.sql > final.sql DE&#l($=  
    brum@brum-laptop:~$ tail -1977 EA192.060913.sql >> final.sql FJktQHcL  
    brum@brum-laptop:~$ e-_m9_b  
    head -9是取前9行,tail -1977是取后1977行,这样就把第10行隔过去了。 Yyhyr2A*_  
    QhD2mUoB  
    得到final.sql再用mysql运行时,就可以使用--default-character-set=gbk了。 1@x{''c  
    \+mAb CV  
    还有一种办法是mysqldump时使用--set-charset=false,这样就不会出现SET NAMES了。 Ic[o56UlP  
    (6|Le`IJ&V  
    目前为止,还可能有问题,出在create table的SQL中,比如: W;!StrKjw  
    9 : %i   
    DROP TABLE IF EXISTS `test`; L-o5#k=3  
    CREATE TABLE `test` ( ?0!D|m Y  
    `a` varchar(100) default NULL d<G@b6t  
    ) ENGINE=InnoDB DEFAULT CHARSET=latin1; Cy%N+3_b/  
    mzrGxLy\E  
    这里仍然有个CHARSET=latin1,它将导致新创建的表的缺省字符集是latin1,而不是我们想要的utf8。 O`O Rg8  
    YSC.K@K  
    怎么办呢,如果数据量不大的话,可以考虑用编辑器把它去掉或者改成utf8,如果数据量大的话可以考虑用sed,但可能仍然时间比较长。 >t%: )(  
    F39jGoJ`_  
    还有一种办法就是mysqldump,使用--create-options=false,不导出表的创建属性。但如果导出的表的存储引擎不同的话就有问题了,因为引擎类型(innodb、myisam等)都被忽略了。 x%;_ o?0`  
    I[O{@PK  
    此外,mysqldump导出时,不要使用-B,而是直接指定一个database名字,目的是不出现CREATE DATABASE语句,因为其中也可能会有缺省字符集的子句,会影响那些未在CREATE TABLE中指定字符集的表。如果你导出的SQL中有CREATE DATABASE,那么需要注意一下有没有字符集的子句,如果有的话,也需要修改。 Q y7Ly^  
    EIl2W+U%  
    好了,通过上述方法导出或者处理过的导出文件可以使用mysql --default-character-set=gbk来导入了。 [IOm\>  
    nTF1z9_~%0  
    今天有一哥们并没有碰到如此复杂的情况,只是用mysqldump从4.1中导出,再在5.0中导入,导入的时候指定--default-character-set=gb2312就行了。我想那是因为导出的文件中没有我前面说那些问题。 HaQL*_?{  
    +"v->  
    是不是有几十个G或者更多的数据等着你移植,而且恰巧有字符集问题?祝你好运吧!

    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多