常用编码与为何要encode和decode
目录
(小拓展):
(一)ASCII 码
(二)Unicode 码
(三)UTF-8 码
(四)总结与encode、decode
(小拓展):
下面是每个字符对应的编号,字符0~9对应编号48~57,就是说ASCII码全是字符!
我们键盘上每个键都对应一个ascii码,这也就是为什么python中input('请输入一个数')得到的是字符,我们还得把它转换成int的原因了
(一)ASCII 码
ASCII 码 表示 127 个英文字符
ASCII 码最先出现,最初只适合英语
随着计算机普及,各国家语言不同,文字多少更是不同,127个根本不够用。各国都要为自己的语言编码。
中国自己的编码是gbk,每个中文需要使用两个字节来编码,中文编码的规则 —— GB2312 (都是常用汉字),比如高考报名时有的学生姓名输入是乱码,就是因为教育部用的GB2312,而他的名字中有个太偏僻的字。
由于不同国家有不同的编码规则,如日本,韩国都使用各自国家的编码规则,在多语言
混用的场合会出现混乱。怎么解决?
(二)Unicode 码
Unicode 用来把所有语言都统一到一套编码里,这样就不会再有乱码问题了。
Unicode通常用两个字节编码(有的也用四个字节),而 ASCII 码通常用一个字节字节。ASCII 码转
换成 Unicode 在前面一个字节补 0
Unicode码虽然全面,但是用起来笨重,比如说我就是想传个1到服务器,你还要给我用两个字节编码么?传额外15个0?
(三)UTF-8 码
UTF-8 把unicode进行优化,减小了硬盘存储空间浪费与传输效率低下
不过在内存中都要转换成unicode
UTF-8 编码把一个 Unicode 字符根据不同的数字大小编码成 1-6 个字节,常用的英文字
母被编码成 1 个字节,汉字通常是 3 个字节,只有很生僻的字符才会被编码成 4-6 个字节。
如果你要传输的文本包含大量英文字符,用 UTF-8 编码就能节省空间。
UTF-8 的一个好处在于,原有的 ASCII 的编码可以在 UTF-8 下继续工作。
(四)总结与encode、decode
搞清楚了 ASCII、Unicode 和 UTF-8 的关系,我们就可以总结一下现在计算机系统通用
的字符编码工作方式:
在计算机内存中,统一使用 Unicode 编码,当需要保存到硬盘或者需要传输的时候,
就转换为 UTF-8 编码。
用记事本编辑的时候,从文件读取的 UTF-8 字符被转换为 Unicode 字符到内存里,编
辑完成后,保存的时候再把 Unicode 转换为 UTF-8 保存到文件:rw-file-utf-8
浏览网页的时候,服务器会把动态生成的 Unicode 内容转换为 UTF-8 再传输到浏览器:
web-utf-8
所以你看到很多网页的源码上会有类似的信息,表示该网页正是用的 UTF-8 编码。
首先要搞清楚,字符串在 Python 内部的表示是 unicode 编码,因此,在做编码转换时,
通常需要以 unicode 作为中间编码,即先将其他编码的字符串解码(decode)成 unicode,
再从 unicode 编码(encode)成另一种编码。
1.decode:其它码-->unicode
decode 的作用是将其他编码的字符串转换成 unicode 编码,如 str1.decode(‘gb2312’),表
示将 gb2312 编码的字符串转换成 unicode 编码。
2.encode:unicode-->其它码
encode 的作用是将 unicode 编码转换成其他编码的字符串,如 str2.encode(‘gb2312’),表
示将 unicode 编码的字符串转换成 gb2312 编码。
————————————————