默認
打賞 發表評論 1
想開發IM:買成品怕坑?租第3方怕貴?找開源自已擼?盡量別走彎路了... 找站長給點建議
IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質
閱讀(5298) | 評論(1 收藏3 淘帖1 2

1、引言


IM等社交應用的開發工作中,亂碼問題也很常見,比如:

  • 1)IM聊天消息中的Emoji表情為什么發給后端后MySQL數據庫里會亂碼;
  • 2)文件名中帶有中文的大文件聊天消息發送后,對方看到的文名是亂碼;
  • 3)Http rest接口調用時,后端讀取到APP端傳過來的參數有中文亂碼問題;
  • ... ...

那么,對于亂碼這個看似不起眼,但并不是一兩話能講清楚的問題,是很有必要從根源了解字符集和編碼原理,知其然知其所以然顯然是一個優秀碼農的基本素養,所以,便有了本文,希望能幫助到你。

* 推薦閱讀:關于字符編碼知識的詳細講解請見《字符編碼那點事:快速理解ASCII、Unicode、GBK和UTF-8》。

2、關于作者


IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_aaa.jpg

盧鈞軼:愛搗騰Linux的DBA。曾任職于大眾點評網DBA團隊,主要關注MySQL、Memcache、MMM等產品的高性能和高可用架構。


3、系列文章


本文是IM開發干貨系列文章中的第21篇,總目錄如下:


4、正文概述


字符集和編碼無疑是IT菜鳥甚至是各種大神的頭痛問題。當遇到紛繁復雜的字符集,各種火星文和亂碼時,問題的定位往往變得非常困難。

本文內容就將會從原理方面對字符集和編碼做個簡單的科普介紹,同時也會介紹一些通用的亂碼故障定位的方法以方便讀者以后能夠更從容的定位相關問題。

在正式介紹之前,先做個小申明:如果你希望非常精確的理解各個名詞的解釋,那么可以詳細閱讀這篇《字符編碼那點事:快速理解ASCII、Unicode、GBK和UTF-8》。

本文是博主通過自己理解消化后并轉化成易懂淺顯的表述后的介紹,會盡量以簡單明了的文字來從要源講解字符集、字符編碼的概念,以及在遭遇亂碼時的一些常用診斷技巧,希望能助你對于“亂碼”問題有更深地理解。

5、什么是字符集


在介紹字符集之前,我們先了解下為什么要有字符集。

我們在計算機屏幕上看到的是實體化的文字,而在計算機存儲介質中存放的實際是二進制的比特流。那么在這兩者之間的轉換規則就需要一個統一的標準,否則把我們的U盤插到老板的電腦上,文檔就亂碼了;小伙伴QQ上傳過來的文件,在我們本地打開又亂碼了。

于是為了實現轉換標準,各種字符集標準就出現了。

簡單的說:字符集就規定了某個文字對應的二進制數字存放方式(編碼)和某串二進制數值代表了哪個文字(解碼)的轉換關系

那么為什么會有那么多字符集標準呢?

這個問題實際非常容易回答。問問自己為什么我們的插頭拿到英國就不能用了呢?為什么顯示器同時有DVI、VGA、HDMI、DP這么多接口呢?很多規范和標準在最初制定時并不會意識到這將會是以后全球普適的準則,或者處于組織本身利益就想從本質上區別于現有標準。于是,就產生了那么多具有相同效果但又不相互兼容的標準了。

說了那么多我們來看一個實際例子,下面就是“屌”這個字在各種編碼下的十六進制和二進制編碼結果,怎么樣有沒有一種很屌的感覺?

IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_1.jpg

6、什么是字符編碼


字符集只是一個規則集合的名字,對應到真實生活中,字符集就是對某種語言的稱呼。例如:英語,漢語,日語。

對于一個字符集來說要正確編碼轉碼一個字符需要三個關鍵元素:

  • 1)字庫表(character repertoire):是一個相當于所有可讀或者可顯示字符的數據庫,字庫表決定了整個字符集能夠展現表示的所有字符的范圍;
  • 2)編碼字符集(coded character set):即用一個編碼值code point來表示一個字符在字庫中的位置;
  • 3)字符編碼(character encoding form):將編碼字符集和實際存儲數值之間的轉換關系。

一般來說都會直接將code point的值作為編碼后的值直接存儲。例如在ASCII中“A”在表中排第65位,而編碼后A的數值是 0100 0001 也即十進制的65的二進制轉換結果。

看到這里,可能很多讀者都會有和我當初一樣的疑問:字庫表和編碼字符集看來是必不可少的,那既然字庫表中的每一個字符都有一個自己的序號,直接把序號作為存儲內容就好了。為什么還要多此一舉通過字符編碼把序號轉換成另外一種存儲格式呢?

其實原因也比較容易理解:統一字庫表的目的是為了能夠涵蓋世界上所有的字符,但實際使用過程中會發現真正用的上的字符相對整個字庫表來說比例非常低。例如中文地區的程序幾乎不會需要日語字符,而一些英語國家甚至簡單的ASCII字庫表就能滿足基本需求。而如果把每個字符都用字庫表中的序號來存儲的話,每個字符就需要3個字節(這里以Unicode字庫為例),這樣對于原本用僅占一個字符的ASCII編碼的英語地區國家顯然是一個額外成本(存儲體積是原來的三倍)。算的直接一些,同樣一塊硬盤,用ASCII可以存1500篇文章,而用3字節Unicode序號存儲只能存500篇。于是就出現了UTF-8這樣的變長編碼。在UTF-8編碼中原本只需要一個字節的ASCII字符,仍然只占一個字節。而像中文及日語這樣的復雜字符就需要2個到3個字節來存儲。

關于字符編碼知識的詳細講解請見:字符編碼那點事:快速理解ASCII、Unicode、GBK和UTF-8》。

7、UTF-8和Unicode的關系


看完上面兩個概念解釋,那么解釋UTF-8和Unicode的關系就比較簡單了。

Unicode就是上文中提到的編碼字符集,而UTF-8就是字符編碼,即Unicode規則字庫的一種實現形式。

隨著互聯網的發展,對同一字庫集的要求越來越迫切,Unicode標準也就自然而然的出現。它幾乎涵蓋了各個國家語言可能出現的符號和文字,并將為他們編號。詳見:Unicode百科介紹

Unicode的編號從 0000 開始一直到10FFFF 共分為17個Plane,每個Plane中有65536個字符。而UTF-8則只實現了第一個Plane,可見UTF-8雖然是一個當今接受度最廣的字符集編碼,但是它并沒有涵蓋整個Unicode的字庫,這也造成了它在某些場景下對于特殊字符的處理困難(下文會有提到)。

8、UTF-8編碼簡介


為了更好的理解后面的實際應用,我們這里簡單的介紹下UTF-8的編碼實現方法。即UTF-8的物理存儲和Unicode序號的轉換關系。

UTF-8編碼為變長編碼,最小編碼單位(code unit)為一個字節。一個字節的前1-3個bit為描述性部分,后面為實際序號部分:

  • 1)如果一個字節的第一位為0,那么代表當前字符為單字節字符,占用一個字節的空間。0之后的所有部分(7個bit)代表在Unicode中的序號;
  • 2)如果一個字節以110開頭,那么代表當前字符為雙字節字符,占用2個字節的空間。110之后的所有部分(5個bit)加上后一個字節的除10外的部分(6個bit)代表在Unicode中的序號。且第二個字節以10開頭;
  • 3)如果一個字節以1110開頭,那么代表當前字符為三字節字符,占用3個字節的空間。110之后的所有部分(5個bit)加上后兩個字節的除10外的部分(12個bit)代表在Unicode中的序號。且第二、第三個字節以10開頭;
  • 4)如果一個字節以10開頭,那么代表當前字節為多字節字符的第二個字節。10之后的所有部分(6個bit)和之前的部分一同組成在Unicode中的序號。

具體每個字節的特征可見下表,其中“x”代表序號部分,把各個字節中的所有x部分拼接在一起就組成了在Unicode字庫中的序號。如下圖所示。

IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_2.jpg

我們分別看三個從一個字節到三個字節的UTF-8編碼例子:
IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_3.jpg

細心的讀者不難從以上的簡單介紹中得出以下規律:

  • 1)3個字節的UTF-8十六進制編碼一定是以E開頭的;
  • 2)2個字節的UTF-8十六進制編碼一定是以C或D開頭的;
  • 3)1個字節的UTF-8十六進制編碼一定是以比8小的數字開頭的。

9、為什么會出現亂碼


亂碼也就是英文常說的mojibake(由日語的文字化け音譯)。

簡單的說亂碼的出現是因為:編碼和解碼時用了不同或者不兼容的字符集

對應到真實生活中:就好比是一個英國人為了表示祝福在紙上寫了bless(編碼過程)。而一個法國人拿到了這張紙,由于在法語中bless表示受傷的意思,所以認為他想表達的是受傷(解碼過程)。這個就是一個現實生活中的亂碼情況。

在計算機科學中一樣:一個用UTF-8編碼后的字符,用GBK去解碼。由于兩個字符集的字庫表不一樣,同一個漢字在兩個字符表的位置也不同,最終就會出現亂碼。

我們來看一個例子,假設我們用UTF-8編碼存儲“很屌”兩個字,會有如下轉換:
IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_4.jpg

于是我們得到了E5BE88E5B18C這么一串數值,而顯示時我們用GBK解碼進行展示,通過查表我們獲得以下信息:
IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_5.jpg

解碼后我們就得到了“寰堝睂”這么一個錯誤的結果,更要命的是連字符個數都變了。

10、如何識別亂碼的本來想要表達的文字


要從亂碼字符中反解出原來的正確文字需要對各個字符集編碼規則有較為深刻的掌握。但是原理很簡單,這里用以MySQL數據庫中的數據操縱中最常見的UTF-8被錯誤用GBK展示時的亂碼為例,來說明具體反解和識別過程。

10.1第1步:編碼


假設我們在頁面上看到“寰堝睂”這樣的亂碼,而又得知我們的瀏覽器當前使用GBK編碼。那么第一步我們就能先通過GBK把亂碼編碼成二進制表達式。

當然查表編碼效率很低,我們也可以用以下SQL語句直接通過MySQL客戶端來做編碼工作:
mysql [localhost] {msandbox} > select hex(convert('寰堝睂' using gbk));
+-------------------------------------+
| hex(convert('寰堝睂' using gbk))    |
+-------------------------------------+
| E5BE88E5B18C                        |
+-------------------------------------+
1 row in set (0.01 sec)

10.2第2步:識別


現在我們得到了解碼后的二進制字符串E5BE88E5B18C。然后我們將它按字節拆開。

IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_6.jpg

然后套用之前UTF-8編碼介紹章節中總結出的規律,就不難發現這6個字節的數據符合UTF-8編碼規則。如果整個數據流都符合這個規則的話,我們就能大膽假設亂碼之前的編碼字符集是UTF-8。

10.3第3步:解碼


然后我們就能拿著 E5BE88E5B18C 用UTF-8解碼,查看亂碼前的文字了。

當然我們可以不查表直接通過SQL獲得結果:
mysql [localhost] {msandbox} ((none)) > select convert(0xE5BE88E5B18C using utf8);
+------------------------------------+
| convert(0xE5BE88E5B18C using utf8) |
+------------------------------------+
| 很屌                               |
+------------------------------------+
1 row in set (0.00 sec)

11、常見的IM亂碼問題處理之MySQL中的Emoji字符


所謂Emoji就是一種在Unicode位于 \u1F601-\u1F64F 區段的字符。這個顯然超過了目前常用的UTF-8字符集的編碼范圍 \u0000-\uFFFF。Emoji表情隨著IOS的普及和微信的支持越來越常見。

下面就是幾個常見的Emoji(IM聊天軟件中經常會被用到):
IM開發基礎知識補課(八):史上最通俗,徹底搞懂字符亂碼問題的本質_7.jpg

那么Emoji字符表情會對我們平時的開發運維帶來什么影響呢?

最常見的問題就在于將他存入MySQL數據庫的時候。一般來說MySQL數據庫的默認字符集都會配置成UTF-8(三字節),而utf8mb4在5.5以后才被支持,也很少會有DBA主動將系統默認字符集改成utf8mb4。

那么問題就來了,當我們把一個需要4字節UTF-8編碼才能表示的字符存入數據庫的時候就會報錯:ERROR 1366: Incorrect string value: '\xF0\x9D\x8C\x86' for column

如果認真閱讀了上面的解釋,那么這個報錯也就不難看懂了:我們試圖將一串Bytes插入到一列中,而這串Bytes的第一個字節是 \xF0 意味著這是一個四字節的UTF-8編碼。但是當MySQL表和列字符集配置為UTF-8的時候是無法存儲這樣的字符的,所以報了錯。

那么遇到這種情況我們如何解決呢?

有兩種方式:

  • 1)升級MySQL到5.6或更高版本,并且將表字符集切換至utf8mb4;
  • 2)在把內容存入到數據庫之前做一次過濾,將Emoji字符替換成一段特殊的文字編碼,然后再存入數據庫中。之后從數據庫獲取或者前端展示時再將這段特殊文字編碼轉換成Emoji顯示。

第二種方法我們假設用 -*-1F601-*- 來替代4字節的Emoji,那么具體實現python代碼可以參見Stackoverflow上的回答

12、參考文獻



附錄:更多IM開發方面的文章


[1] IM開發綜合文章:
新手入門一篇就夠:從零開發移動端IM
移動端IM開發者必讀(一):通俗易懂,理解移動網絡的“弱”和“慢”
移動端IM開發者必讀(二):史上最全移動弱網絡優化方法總結
從客戶端的角度來談談移動端IM的消息可靠性和送達機制
現代移動端網絡短連接的優化手段總結:請求速度、弱網適應、安全保障
騰訊技術分享:社交網絡圖片的帶寬壓縮技術演進之路
小白必讀:閑話HTTP短連接中的Session和Token
IM開發基礎知識補課:正確理解前置HTTP SSO單點登陸接口的原理
移動端IM開發需要面對的技術問題
開發IM是自己設計協議用字節流好還是字符流好?
請問有人知道語音留言聊天的主流實現方式嗎?
一個低成本確保IM消息時序的方法探討
完全自已開發的IM該如何設計“失敗重試”機制?
通俗易懂:基于集群的移動端IM接入層負載均衡方案分享
微信對網絡影響的技術試驗及分析(論文全文)
即時通訊系統的原理、技術和應用(技術論文)
開源IM工程“蘑菇街TeamTalk”的現狀:一場有始無終的開源秀
QQ音樂團隊分享:Android中的圖片壓縮技術詳解(上篇)
QQ音樂團隊分享:Android中的圖片壓縮技術詳解(下篇)
騰訊原創分享(一):如何大幅提升移動網絡下手機QQ的圖片傳輸速度和成功率
騰訊原創分享(二):如何大幅壓縮移動網絡下APP的流量消耗(上篇)
騰訊原創分享(三):如何大幅壓縮移動網絡下APP的流量消耗(下篇)
如約而至:微信自用的移動端IM網絡層跨平臺組件庫Mars已正式開源
基于社交網絡的Yelp是如何實現海量用戶圖片的無損壓縮的?
騰訊技術分享:騰訊是如何大幅降低帶寬和網絡流量的(圖片壓縮篇)
騰訊技術分享:騰訊是如何大幅降低帶寬和網絡流量的(音視頻技術篇)
字符編碼那點事:快速理解ASCII、Unicode、GBK和UTF-8
全面掌握移動端主流圖片格式的特點、性能、調優等
子彈短信光鮮的背后:網易云信首席架構師分享億級IM平臺的技術實踐
微信技術分享:微信的海量IM聊天消息序列號生成實踐(算法原理篇)
自已開發IM有那么難嗎?手把手教你自擼一個Andriod版簡易IM (有源碼)
融云技術分享:解密融云IM產品的聊天消息ID生成策略
適合新手:從零開發一個IM服務端(基于Netty,有完整源碼)
拿起鍵盤就是干:跟我一起徒手開發一套分布式IM系統
>> 更多同類文章 ……

[2] 有關IM架構設計的文章:
淺談IM系統的架構設計
簡述移動端IM開發的那些坑:架構設計、通信協議和客戶端
一套海量在線用戶的移動端IM架構設計實踐分享(含詳細圖文)
一套原創分布式即時通訊(IM)系統理論架構方案
從零到卓越:京東客服即時通訊系統的技術架構演進歷程
蘑菇街即時通訊/IM服務器開發之架構選擇
騰訊QQ1.4億在線用戶的技術挑戰和架構演進之路PPT
微信后臺基于時間序的海量數據冷熱分級架構設計實踐
微信技術總監談架構:微信之道——大道至簡(演講全文)
如何解讀《微信技術總監談架構:微信之道——大道至簡》
快速裂變:見證微信強大后臺架構從0到1的演進歷程(一)
17年的實踐:騰訊海量產品的技術方法論
移動端IM中大規模群消息的推送如何保證效率、實時性?
現代IM系統中聊天消息的同步和存儲方案探討
IM開發基礎知識補課(二):如何設計大量圖片文件的服務端存儲架構?
IM開發基礎知識補課(三):快速理解服務端數據庫讀寫分離原理及實踐建議
IM開發基礎知識補課(四):正確理解HTTP短連接中的Cookie、Session和Token
WhatsApp技術實踐分享:32人工程團隊創造的技術神話
微信朋友圈千億訪問量背后的技術挑戰和實踐總結
王者榮耀2億用戶量的背后:產品定位、技術架構、網絡方案等
IM系統的MQ消息中間件選型:Kafka還是RabbitMQ?
騰訊資深架構師干貨總結:一文讀懂大型分布式系統設計的方方面面
以微博類應用場景為例,總結海量社交系統的架構設計步驟
快速理解高性能HTTP服務端的負載均衡技術原理
子彈短信光鮮的背后:網易云信首席架構師分享億級IM平臺的技術實踐
知乎技術分享:從單機到2000萬QPS并發的Redis高性能緩存實踐之路
IM開發基礎知識補課(五):通俗易懂,正確理解并用好MQ消息隊列
微信技術分享:微信的海量IM聊天消息序列號生成實踐(算法原理篇)
微信技術分享:微信的海量IM聊天消息序列號生成實踐(容災方案篇)
新手入門:零基礎理解大型分布式架構的演進歷史、技術原理、最佳實踐
一套高可用、易伸縮、高并發的IM群聊、單聊架構方案設計實踐
阿里技術分享:深度揭秘阿里數據庫技術方案的10年變遷史
阿里技術分享:阿里自研金融級數據庫OceanBase的艱辛成長之路
社交軟件紅包技術解密(一):全面解密QQ紅包技術方案——架構、技術實現等
社交軟件紅包技術解密(二):解密微信搖一搖紅包從0到1的技術演進
社交軟件紅包技術解密(三):微信搖一搖紅包雨背后的技術細節
社交軟件紅包技術解密(四):微信紅包系統是如何應對高并發的
社交軟件紅包技術解密(五):微信紅包系統是如何實現高可用性的
社交軟件紅包技術解密(六):微信紅包系統的存儲層架構演進實踐
社交軟件紅包技術解密(七):支付寶紅包的海量高并發技術實踐
社交軟件紅包技術解密(八):全面解密微博紅包技術方案
社交軟件紅包技術解密(九):談談手Q紅包的功能邏輯、容災、運維、架構等
即時通訊新手入門:一文讀懂什么是Nginx?它能否實現IM的負載均衡?
即時通訊新手入門:快速理解RPC技術——基本概念、原理和用途
多維度對比5款主流分布式MQ消息隊列,媽媽再也不擔心我的技術選型了
從游擊隊到正規軍(一):馬蜂窩旅游網的IM系統架構演進之路
從游擊隊到正規軍(二):馬蜂窩旅游網的IM客戶端架構演進和實踐總結
IM開發基礎知識補課(六):數據庫用NoSQL還是SQL?讀這篇就夠了!
瓜子IM智能客服系統的數據架構設計(整理自現場演講,有配套PPT)
阿里釘釘技術分享:企業級IM王者——釘釘在后端架構上的過人之處
>> 更多同類文章 ……

即時通訊網 - 即時通訊開發者社區! 來源: - 即時通訊開發者社區!

上一篇:即時通訊安全篇(八):你知道,HTTPS用的是對稱加密還是非對稱加密?下一篇:求教IM中實現同一賬號多端重復登錄時,踢出前面登陸的思路?

本帖已收錄至以下技術專輯

推薦方案
評論 1
很通俗, 贊群主!
打賞樓主 ×
使用微信打賞! 使用支付寶打賞!

返回頂部
股票配资平台都找股牛网