Go 的 UTF-8 实现

计算机刚开始诞生的时候,计算机内的字符可以全部由 ASCII 来表示,ASCII 字符的长度是 7 位,可以表示 128 个字符,对于美国等国家来说是够了,但是对于世界上的其他国家,特别是东亚国家,文字不是由字母组成,汉字就有几万个,ASCII 码根本不够用。

字符本质就是对应计算机中的一个数值,既然不够用,那么解决方法就是把这个范围扩大,Unicode 的出现就解决了这个问题,它包括了世界上所有的字符,每一个字符都对应一个数值,这个数值被称之为 Unicode 码点

但是 Unicode 也不是没有缺点,因为表示的范围大,所以每一个 Unicode 都需要 4 个字节来表示,但是对于原本的 ASCII 编码,本来只需要一个字节,现在也需要 4个字节,这样会浪费很多存储。

UTF-8 的出现解决了这个问题,它解决问题的思路是让每个字符选择自己的大小,需要多少字节就用多少。对于占不同字节的字符,有不同的表示格式:

  • 1 字节:0xxxxxxx
  • 2 字节:110xxxxx 10xxxxxx
  • 3 字节:1110xxxx 10xxxxxx 10xxxxxx
  • 4 字节:11110xxx 10 xxxxxx 10xxxxxx 10xxxxxx

通过识别每个字符串的头部来判断占几个字节。

每个 Unicode 字符都对应一个码点,在字符串中,可以对码点进行转义,使用 \uhhhh 表示 16 位码点,使用 \Uhhhhhhhh 来表示 32 位码点,每一个 h 都代表一个十六进制的数字。

这里有一点比较特殊,对于码点值小于 256 的文字符号可以使用单个十六进制的数字来表示,比如 'A' 可以使用 '\x41' 来表示,对于大于 256 的码点,就必须使用 \u 或者 \U 来转义。

Go 语言对于 UTF-8 的支持很好,这里有一点很有意思,Go 语言的两位作者 Ken Thompson 和 Rob Pike 同时也是 UTF-8 的发明者,Go 语言对 UTF-8 的支持赢在起跑线。

Go 语言总是使用 UTF-8 来处理源文件,同时也是优先使用 UTF-8 来处理字符串。所以上面说到的那些 Unicode 字符的转义被 Go 直接处理,比如下面三个字符串在 Go 语言中是等价的:

"世界"
"\u4e16\u754c"
"\U00004e16\U0000u754c"

Go 字符串使用只读的 []byte 来存储,所以字符串值是不变的,这样做更安全,效率也很高:

s := "left root"
t := s
s += ", right root"

fmt.Println(s) // left root, right root
fmt.Println(t) // left root

在上面的例子中, s 的值出现了变化,但是 t 的值还是旧的字符串。由于是 [] byte 是 slice 类型,所以字符串的截取操作效率很高,但是在字符串截取的过程中,就会出现一些坑。

Go 中的字符串底层使用了只读的 []byte 来存储,所以本质上 Go 语言中的字符串是使用字节来表示,而不是字符表示,理解这一点很重要。

str := "hello world"
fmt.Println(str[:2]) // he

str = "你好,世界"
fmt.Println(str[:2]) // ��,这个符号用来表示 UTF-8 里面的未知字符,码点是

非 ASCII 码的字符一般占用的字节会超过一个,如果直接截取,就会导致截取不到正确的位置,从而乱码。在上面的例子中,一个中文字符占 3 个字节,只有严格按照字节数来截取才能获取到显示正常的字符:

str = "你好,世界"
fmt.Println(str[:3]) // 你

那么在这个时候,如果要按照字符截取,就需要把字符串转成 []rune,每个 rune 都代表一个 UTF-8 中的码点,对 []rune 按照字符截取就不会出现乱码:

str = "你好,世界"
runeStr := []rune(str)
fmt.Println(string(runeStr[:1])) // 你

把字符串转成 []rune,就是把字符串转成 UTF-8 码点,而不是 []byte,rune 其实就是 int32 类型。

Go 语言中有一个专门 unicode/utf8 包来处理 utf8 字符。由于每个字符占据的字节可能不一样,所以字符数和字节数大小是两回事:

s := "Hello, 世界" // 逗号是半角符号
fmt.Println(len(s))                    // 13
fmt.Println(utf8.RuneCountInString(s)) // 9

如果要获取字符占据的总字节数,就使用 len 方法,如果需要计算字符的个数,那就需要使用 utf8.RuneCountInString 方法。

这个包里面还提供了其他常用函数:

// 判断是否符合 utf8 编码:
func Valid(p []byte) bool
func ValidRune(r rune) bool
func ValidString(s string) bool
// 判断 rune 所占的字节数
func RuneLen(r rune) int
// 判断字节串或者字符串中的 rune 字符数
func RuneCount(p []byte) int
func RuneCountInString(s string) int
// 对 rune 的编码和解码
func EncodeRune(p []byte, r rune) int
func DecodeRune(p []byte) (r rune, size int)
func DecodeRuneInString(s string) (r rune, size int)
func DecodeLastRune(p []byte) (r rune, size int)
func DecodeLastRuneInString(s string) (r rune, size int)

除了 utf8 包之外, unicode 包对提供了一系列 IsXX 函数来 rune 的检查:

func Is(rangeTab *RangeTable, r rune) bool // 是否是 RangeTable 类型的
func In(r rune, ranges ...*RangeTable) bool  // 是否是 ranges 中任意一个类型的字符
func IsControl(r rune) bool  // 是否是控制字符
func IsDigit(r rune) bool  // 是否是阿拉伯数字字符,即 0-9
func IsGraphic(r rune) bool // 是否是图形字符
func IsLetter(r rune) bool // 是否是字母
func IsLower(r rune) bool // 是否是小写字符
func IsMark(r rune) bool // 是否是符号字符
func IsNumber(r rune) bool // 是否是数字字符,包含罗马数字
func IsOneOf(ranges []*RangeTable, r rune) bool // 是否是 RangeTable 中的一个
func IsPrint(r rune) bool // 是否是可打印字符
func IsPunct(r rune) bool // 是否是标点符号
func IsSpace(r rune) bool // 是否是空格
func IsSymbol(r rune) bool // 是否符号字符
func IsTitle(r rune) bool // 字符串中的每个单词的第一个字符是否是大写
func IsUpper(r rune) bool // 是否是大写字符

RangeTable 是对所有 Unicode 字符的分类,比如验证一个字符是否是汉字:

r := '中'
result := unicode.Is(unicode.Han, r)
fmt.Println(result) // true

其中 unicode.Han 就是 RangeTable 类型,表示汉字。

文 / Rayjun

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,482评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,377评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,762评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,273评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,289评论 5 373
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,046评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,351评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,988评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,476评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,948评论 2 324
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,064评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,712评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,261评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,264评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,486评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,511评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,802评论 2 345

推荐阅读更多精彩内容