深入解析字符集和字符编码

Welcome to My ITPUB blog

字符(Character)是各种文字和符号的总称,包括各国家文字、标点符号、图形符号、数字等。计算机要准确的处理各种字符集文字,需要进行编码,以便计算机能够识别和存储各种字符。

0x01 字符集

字符集(Character set)是多个字符的集合,字符集种类较多,每个字符集包含的字符个数不同,常见字符集名称:ASCII字符集、GB2312字符集、BIG5字符集、 GB18030字符集、Unicode字符集等。

字符集从表示字符使用字节的数目来区分,可以分为单字节字符集和多字节字符集。

单字节字符集

顾名思义,单字节字符集是使用一个字节表示字符的字符集。常见的包括Latin(又称ISO8859)系列字符集(如Latin1、ISO8859P1等)、ASCII等。

由于只有一个字节,单字节字符集最多只能表示256个字符。

多字节字符集

多字节字符集使用一个或多个字节表示一个字符。

支持中文的字符集

支持中文的字符集包括国标系列字符集(GB2312、GBK、GB18030)和Unicode。

Latin系列字符集的编码范围是00-FF,因此无论是单字节表示的字符还是多字节表示的字符,均可以存储任意字符包括中文。

0x02 字符编码

相同的字符,在不同的字符集下可能有不同的编码。比如“中文”这两个字符,在GBK字符集的编码为d6,d0,ce,c4,在Unicode字符集中使用UTF8编码为e4,b8,ad,e6,96,87。相同的字符可能有不同的编码,在字符集不同的操作环境中交换数据可能会发生编码转换,如果转换失败就会出现乱码。

编码转换

编码转换在操作环境字符集不同的情况下发生。操作环境为操作系统为中文版Windows,默认的字符集为GBK,而在操作系统为Linux,则使用的字符集为UTF8,在这两者之间进行数据交换时,就可能发生字符编码转换。

比如我们在Windows平台(使用默认的环境变量)下启动SQL*PLUS从远程字符集为UTF8的Oracle数据库中查询含有中文的数据时,会发生UTF8字符编码向GBK字符集的编码转换。这个转换过程在下一章节会详细讨论。

乱码

字符编码如果转换不成功,就会产生乱码。在编码转换中我们提到,字符从UTF8转换为GBK,由于UTF8和GBK均存在相应的中文字符编码,这时候转换是成功的,不会产生乱码,如“中文”两个字符,从“e4,b8,ad,e6,96,87”转换为“d6,d0,ce,c4”编码。但如果从GBK往Latin1转换或者Latin1往GBK进行转换时,由于两种字符集不兼容,转换就会出现乱码。

通常来说,无法转换的字符会变为目标字符集中的疑问字符,在ASCII下是3f,GBK下是a3,bf,在ISO8859P1下是bf。

另外,值得一提的是,如果是通过JDBC驱动获取数据,如果字符无法转换为UTF16(Java内部使用的字符编码),字符可能会变成null值。

0x03 Oracle中的字符编码转换

本章节以Oracle数据库为例详细解释在使用SQL*PLUS时,Oracle如何处理字符编码的转换。

操作模型

操作模型如上图所示,客户端环境包括操作系统OS、应用环境AppEnv、客户端工具SQL*PLUS和数据库驱动(OCI Driver)以及环境变量NLS_LANG。服务端环境包括操作系统OS,Oracle数据库。

举个例子,我们在中文版Windows中,通过CMD打开SQL*PLUS,连接到操作系统为CentOS 6.5,字符集为GBK的数据库。这时候操作模型的各种要素,客户端为:OS=Windows(字符集为GBK),AppEnv=CMD(默认CodePage=936,可通过chcp修改),NLS_LANG=SIMPLIFIED CHINESE_CHINA.ZHS16GBK(默认值);服务端为:OS=Linux(字符集为Unicode,字符编码为UTF8),DB Character Set=GBK。

在客户端和服务端之间,是否需要字符转换,由客户端环境变量NLS_LANG进行控制,如NLS_LANG中定义的字符集与数据库字符集一致,则不发生转换,否则发生转换。设置该环境变量的最佳实践为:数据库字符集为单字节字符集,环境变量字符集与数据库字符集一致;数据库字符集为多字节字符集,环境变量字符集与客户端操作环境字符集一致

下面我们按照各种不同的设置看看在写入数据时发生的字符编码转换。

#1:客户端为Win7/CodePage=936;服务端为UTF8数据库;NLS_LANG=.ZHS16GBK

如下图所示:

由于环境变量字符集与数据库服务器字符集不一致,这时候会发生编码转换,从GBK转换为UTF8,由于字符的实际编码为GBK而且GBK和UTF8两者兼容,因此转换成功,保存在数据库中的字符编码为正确的UTF8编码。

#2:客户端为Win7/CP=936;服务端为GBK数据库;NLS_LANG=.AL32UTF8

如下图所示:

由于环境变量字符集与数据库服务器字符集不一致,这时候会发生编码转换,从UTF8转换为GBK,由于字符的实际编码为GBK,将会把这些字符编码视为UTF8编码往GBK转换,这时候会出现转换不成功的情况。

如上图所示,字符“中文”的GBK编码为d6,d0,ce,c4,均为不合法的UTF8编码,从UTF8转换为GBK时会转换为a3,bf;字符“涓璍”的GBK为“e4,b8,ad,4c”,前面3个字节为合法的UTF8编码(字符“中”的UTF8编码),因此从UTF8转换为GBK时,转换为字符“中L”(ASCII 4c为字符L)。

#3:客户端为Win7/CP=936;服务端为WE8ISO885P1数据库;NLS_LANG=.ZHS16GBK

如下图所示:

由于环境变量字符集与数据库服务器字符集不一致,这时候会发生编码转换,从GBK转换为ISO8859P1,由于字符集不兼容,字符转换失败,中文字符会变为bf。

在GBK字符集中,"bf,bf"为合法的字符编码,也就是中文字符“靠”的编码,这就是有时候我们看到一堆的“靠”字的原因所在。

0x04 结语

字符或其他信息的编码是计算机最基本的知识,因为只有经过编码之后的信息才能存储在计算机中,掌握好这些基础知识才能更好的理解其他更高级的内容。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容