校园春色亚洲色图_亚洲视频分类_中文字幕精品一区二区精品_麻豆一区区三区四区产品精品蜜桃

主頁 > 知識庫 > 字符編碼詳解(基礎)

字符編碼詳解(基礎)

熱門標簽:去哪里辦卡 福建ai電銷機器人加盟公司 無錫電銷機器人銷售 招聘信息 揭陽外呼系統公司 熱血傳奇沃瑪森林地圖標注 南召400電話辦理資費 地圖標注植物名稱 地圖標注審核工作怎么樣注冊 鄭州中國移動400電話申請
久很久以前,有一群人,他們決定用8個可以開合的晶體管來組合成不同的狀態,以表示世界上的萬物。他們看到8個開關狀態是好的,于是他們把這稱為”字節”。

再后來,他們又做了一些可以處理這些字節的機器,機器開動了,可以用字節來組合出很多狀態,狀態開始變來變去。他們看到這樣是好的,于是它們就這機器稱為”計算機”。

開始計算機只在美國用。八位的字節一共可以組合出256(2的8次方)種不同的狀態。

他們把其中的編號從0開始的32種狀態分別規定了特殊的用途,一但終端、打印機遇上約定好的這些字節被傳過來時,就要做一些約定的動作。遇上00×10, 終端就換行,遇上0×07, 終端就向人們嘟嘟叫,例如遇上0×1b, 打印機就打印反白的字,或者終端就用彩色顯示字母。他們看到這樣很好,于是就把這些0×20以下的字節狀態稱為”控制碼”.

他們又把所有的空格、標點符號、數字、大小寫字母分別用連續的字節狀態表示,一直編到了第127號,這樣計算機就可以用不同字節來存儲英語的文字了。大家 看到這樣,都感覺很好,于是大家都把這個方案叫做 ANSI 的”Ascii”編碼(American Standard Code for Information Interchange,美國信息互換標準代碼)。當時世界上所有的計算機都用同樣的ASCII方案來保存英文文字。

后來,就像建造巴比倫塔一樣,世界各地的都開始使用計算機,但是很多國家用的不是英文,他們的字母里有許多是ASCII里沒有的,為了可以在計算機保存他 們的文字,他們決定采用127號之后的空位來表示這些新的字母、符號,還加入了很多畫表格時需要用下到的橫線、豎線、交叉等形狀,一直把序號編到了最后一 個狀態255。從128到255這一頁的字符集被稱”擴展字符集”。從此之后,貪婪的人類再沒有新的狀態可以用了,美帝國主義可能沒有想到還有第三世界國 家的人們也希望可以用到計算機吧!

等中國人們得到計算機時,已經沒有可以利用的字節狀態來表示漢字,況且有6000多個常用漢字需要保存呢。但是這難不倒智慧的中國人民,我們不客氣地把那些127號之后的奇異符號們直接取消掉,

規定:一個小于127的字符的意義與原來相同,但兩個大于127的字符連在一起時,就表示一個漢字,前面的一個字節(他稱之為高字節)從0xA1用到 0xF7,后面一個字節(低字節)從0xA1到0xFE,這樣我們就可以組合出大約7000多個簡體漢字了。在這些編碼里,我們還把數學符號、羅馬希臘的 字母、日文的假名們都編進去了,連在 ASCII 里本來就有的數字、標點、字母都統統重新編了兩個字節長的編碼,這就是常說的”全角”字符,而原來在127號以下的那些就叫”半角”字符了。

中國人民看到這樣很不錯,于是就把這種漢字方案叫做 “GB2312″。GB2312 是對 ASCII 的中文擴展.

但是中國的漢字太多了,我們很快就就發現有許多人的人名沒有辦法在這里打出來,特別是某些很會麻煩別人的國家領導人。于是我們不得不繼續把 GB2312 沒有用到的碼位找出來老實不客氣地用上。

后來還是不夠用,于是干脆不再要求低字節一定是127號之后的內碼,只要第一個字節是大于127就固定表示這是一個漢字的開始,不管后面跟的是不是擴展字 符集里的內容。結果擴展之后的編碼方案被稱為 GBK 標準,GBK 包括了 GB2312 的所有內容,同時又增加了近20000個新的漢字(包括繁體字)和符號。

后來少數民族也要用電腦了,于是我們再擴展,又加了幾千個新的少數民族的字,GBK 擴成了GB18030。從此之后,中華民族的文化就可以在計算機時代中傳承了。

中國的程序員們看到這一系列漢字編碼的標準是好的,于是通稱他們叫做 “DBCS”(Double Byte Charecter Set 雙字節字符集)。在DBCS系列標準里,最大的特點是兩字節長的漢字字符和一字節長的英文字符并存于同一套編碼方案里,因此他們寫的程序為了支持中文處 理,必須要注意字串里的每一個字節的值,如果這個值是大于127的,那么就認為一個雙字節字符集里的字符出現了。那時候凡是受過加持,會編程的計算機僧侶 們都要每天念下面這個咒語數百遍:

“一個漢字算兩個英文字符!一個漢字算兩個英文字符……”

因為當時各個國家都像中國這樣搞出一套自己的編碼標準,結果互相之間誰也不懂誰的編碼,誰也不支持別人的編碼,連大陸和臺灣這樣只相隔了150海里,使用 著同一種語言的兄弟地區,也分別采用了不同的 DBCS 編碼方案——當時的中國人想讓電腦顯示漢字,就必須裝上一個”漢字系統”,專門用來處理漢字的顯示、輸入的問題,但是那個臺灣的愚昧封建人士寫的算命程序 就必須加裝另一套支持 BIG5 編碼的什么”倚天漢字系統”才可以用,裝錯了字符系統,顯示就會亂了套!這怎么辦?而且世界民族之林中還有那些一時用不上電腦的窮苦人民,他們的文字又怎 么辦?

真是計算機的巴比倫塔命題啊!

正在這時,大天使加百列及時出現了——一個叫 ISO(國際標誰化組織)的國際組織決定著手解決這個問題。他們采用的方法很簡單:廢了所有的地區性編碼方案,重新搞一個包括了地球上所有文化、所有字母 和符號的編碼!他們打算叫它”Universal Multiple-Octet Coded Character Set”,簡稱 UCS, 俗稱 “UNICODE”。

UNICODE 開始制訂時,計算機的存儲器容量極大地發展了,空間再也不成為問題了。于是 ISO 就直接規定必須用兩個字節,也就是16位來統一表示所有的字符,對于ascii里的那些“半角”字符,UNICODE 包持其原編碼不變,只是將其長度由原來的8位擴展為16位,而其他文化和語言的字符則全部重新統一編碼。由于”半角”英文符號只需要用到低8位,所以其高 8位永遠是0,因此這種大氣的方案在保存英文文本時會多浪費一倍的空間。

這時候,從舊社會里走過來的程序員開始發現一個奇怪的現象:他們的strlen函數靠不住了,一個漢字不再是相當于兩個字符了,而是一個!是的,從 UNICODE 開始,無論是半角的英文字母,還是全角的漢字,它們都是統一的”一個字符”!同時,也都是統一的”兩個字節”,請注意”字符”和”字節”兩個術語的不 同,“字節”是一個8位的物理存貯單元,而“字符”則是一個文化相關的符號。在UNICODE 中,一個字符就是兩個字節。一個漢字算兩個英文字符的時代已經快過去了。

從前多種字符集存在時,那些做多語言軟件的公司遇上過很大麻煩,他們為了在不同的國家銷售同一套軟件,就不得不在區域化軟件時也加持那個雙字節字符集咒 語,不僅要處處小心不要搞錯,還要把軟件中的文字在不同的字符集中轉來轉去。UNICODE 對于他們來說是一個很好的一攬子解決方案,于是從 Windows NT 開始,MS 趁機把它們的操作系統改了一遍,把所有的核心代碼都改成了用 UNICODE 方式工作的版本,從這時開始,WINDOWS 系統終于無需要加裝各種本土語言系統,就可以顯示全世界上所有文化的字符了。

但是,UNICODE 在制訂時沒有考慮與任何一種現有的編碼方案保持兼容,這使得 GBK 與UNICODE 在漢字的內碼編排上完全是不一樣的,沒有一種簡單的算術方法可以把文本內容從UNICODE編碼和另一種編碼進行轉換,這種轉換必須通過查表來進行。

如前所述,UNICODE 是用兩個字節來表示為一個字符,他總共可以組合出65535不同的字符,這大概已經可以覆蓋世界上所有文化的符號。如果還不夠也沒有關系,ISO已經準備 了UCS-4方案,說簡單了就是四個字節來表示一個字符,這樣我們就可以組合出21億個不同的字符出來(最高位有其他用途),這大概可以用到銀河聯邦成立 那一天吧!

UNICODE 來到時,一起到來的還有計算機網絡的興起,UNICODE 如何在網絡上傳輸也是一個必須考慮的問題,于是面向傳輸的眾多 UTF(UCS Transfer Format)標準出現了,顧名思義,UTF8就是每次8個位傳輸數據,而UTF16就是每次16個位,只不過為了傳輸時的可靠性,從UNICODE到 UTF時并不是直接的對應,而是要過一些算法和規則來轉換。

受到過網絡編程加持的計算機僧侶們都知道,在網絡里傳遞信息時有一個很重要的問題,就是對于數據高低位的解讀方式,一些計算機是采用低位先發送的方法,例 如我們PC機采用的 INTEL 架構,而另一些是采用高位先發送的方式,在網絡中交換數據時,為了核對雙方對于高低位的認識是否是一致的,采用了一種很簡便的方法,就是在文本流的開始時 向對方發送一個標志符——如果之后的文本是高位在位,那就發送”FEFF”,反之,則發送”FFFE”。不信你可以用二進制方式打開一個UTF-X格式的 文件,看看開頭兩個字節是不是這兩個字節?

講到這里,我們再順便說說一個很著名的奇怪現象:當你在 windows 的記事本里新建一個文件,輸入”聯通”兩個字之后,保存,關閉,然后再次打開,你會發現這兩個字已經消失了,代之的是幾個亂碼!呵呵,有人說這就是聯通之所以拼不過移動的原因。

其實這是因為GB2312編碼與UTF8編碼產生了編碼沖撞的原因。

從網上引來一段從UNICODE到UTF8的轉換規則:

復制代碼 代碼如下:

Unicode
UTF-8
0000 - 007F
0xxxxxxx
0080 - 07FF
110xxxxx 10xxxxxx
0800 - FFFF
1110xxxx 10xxxxxx 10xxxxxx

例如”漢”字的Unicode編碼是6C49。6C49在0800-FFFF之間,所以要用3字節模板:1110xxxx 10xxxxxx 10xxxxxx。將6C49寫成二進制是:0110 1100 0100 1001,將這個比特流按三字節模板的分段方法分為0110 110001 001001,依次代替模板中的x,得到:1110-0110 10-110001 10-001001,即E6 B1 89,這就是其UTF8的編碼。

而當你新建一個文本文件時,記事本的編碼默認是ANSI,如果你在ANSI的編碼輸入漢字,那么他實際就是GB系列的編碼方式,在這種編碼下,”聯通”的內碼是:

復制代碼 代碼如下:

c1 1100 0001
aa 1010 1010
cd 1100 1101
a8 1010 1000

注意到了嗎?第一二個字節、第三四個字節的起始部分的都是”110″和”10″,正好與UTF8規則里的兩字節模板是一致的,于是再次打開記事本時,記事 本就誤認為這是一個UTF8編碼的文件,讓我們把第一個字節的110和第二個字節的10去掉,我們就得到了”00001 101010″,再把各位對齊,補上前導的0,就得到了”0000 0000 0110 1010″,不好意思,這是UNICODE的006A,也就是小寫的字母”j”,而之后的兩字節用UTF8解碼之后是0368,這個字符什么也不是。這就 是只有”聯通”兩個字的文件沒有辦法在記事本里正常顯示的原因。

而如果你在”聯通”之后多輸入幾個字,其他的字的編碼不見得又恰好是110和10開始的字節,這樣再次打開時,記事本就不會堅持這是一個utf8編碼的文件,而會用ANSI的方式解讀之,這時亂碼又不出現了。

好了,終于可以回答NICO的問題了,在數據庫里,有n前綴的字串類型就是UNICODE類型,這種類型中,固定用兩個字節來表示一個字符,無論這個字符是漢字還是英文字母,或是別的什么。

如果你要測試”abc漢字”這個串的長度,在沒有n前綴的數據類型里,這個字串是7個字符的長度,因為一個漢字相當于兩個字符。而在有n前綴的數據類型里,同樣的測試串長度的函數將會告訴你是5個字符,因為一個漢字就是一個字符。

標簽:宣城 東莞 桂林 黔南 南昌 景德鎮 鹽城 文山

巨人網絡通訊聲明:本文標題《字符編碼詳解(基礎)》,本文關鍵詞  字符,編碼,詳解,基礎,字符,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《字符編碼詳解(基礎)》相關的同類信息!
  • 本頁收集關于字符編碼詳解(基礎)的相關信息資訊供網民參考!
  • 推薦文章
    校园春色亚洲色图_亚洲视频分类_中文字幕精品一区二区精品_麻豆一区区三区四区产品精品蜜桃
    日韩高清不卡一区| 亚洲国产精品一区二区尤物区| 91麻豆.com| 国产成人免费在线观看| 麻豆精品视频在线观看免费| 亚洲成av人在线观看| 亚洲视频网在线直播| 中文字幕va一区二区三区| 精品美女一区二区| 精品久久久久99| 日韩精品资源二区在线| 日韩一区二区三区视频| 欧美精品v国产精品v日韩精品 | 国产亚洲欧美色| 欧美日韩一区二区在线观看 | 成人美女视频在线观看18| 国模冰冰炮一区二区| 精品伊人久久久久7777人| 日本不卡高清视频| 毛片基地黄久久久久久天堂| 蜜桃视频一区二区| 亚洲午夜精品在线| 日韩精品1区2区3区| 日韩电影免费一区| 狠狠狠色丁香婷婷综合激情| 国产一区二区三区电影在线观看| 国产一区在线视频| 粉嫩在线一区二区三区视频| 99久久精品99国产精品| 色一情一乱一乱一91av| 欧美挠脚心视频网站| 欧美一激情一区二区三区| 日韩欧美中文字幕精品| 精品日韩一区二区三区免费视频| 精品国产欧美一区二区| 欧美精品视频www在线观看| 欧美一级片在线观看| 337p日本欧洲亚洲大胆精品| 国产精品久久久久久福利一牛影视| 亚洲视频免费看| 日韩av一区二区三区四区| 国产精品一区二区久久精品爱涩| 国产1区2区3区精品美女| 91行情网站电视在线观看高清版| 精品视频一区三区九区| 久久精品亚洲乱码伦伦中文 | 欧美视频一二三区| 日韩视频一区二区在线观看| 国产精品久久久久久久裸模| 日本不卡不码高清免费观看| 精品中文字幕一区二区小辣椒| 成人动漫在线一区| 日韩一区二区视频| 亚洲精品视频免费观看| 韩国在线一区二区| 91传媒视频在线播放| 久久婷婷国产综合国色天香| 亚洲一区二区成人在线观看| 国产成人综合在线观看| 91精品国产综合久久蜜臀| 国产精品久久久久影院亚瑟| 偷窥少妇高潮呻吟av久久免费| 国产乱码精品一区二区三区忘忧草| 懂色av中文字幕一区二区三区| 欧美日本在线看| 一区二区三区电影在线播| 韩国精品主播一区二区在线观看 | 中文字幕精品三区| 日日夜夜精品视频免费| www.久久精品| 国产日产欧美一区二区三区| 亚洲激情图片qvod| 狠狠狠色丁香婷婷综合激情| 欧美精品久久久久久久多人混战 | 亚洲综合视频在线| 青青草97国产精品免费观看无弹窗版| av电影在线观看不卡| 久久综合av免费| 免费黄网站欧美| 欧美肥胖老妇做爰| 伊人一区二区三区| 91原创在线视频| 亚洲欧美影音先锋| 成人av动漫在线| 中文字幕一区二区三区不卡 | 国产成人综合视频| 777欧美精品| 国产精品伦一区二区三级视频| 亚洲午夜在线电影| 欧美三级欧美一级| 日欧美一区二区| 91精品国产综合久久精品性色| 午夜精品久久一牛影视| 欧美日韩免费高清一区色橹橹 | 日韩片之四级片| 蜜臀av性久久久久蜜臀aⅴ| 欧美色成人综合| 亚洲国产精品一区二区www| 91久久久免费一区二区| 亚洲美女视频一区| 欧美日韩亚洲综合在线| 日韩av在线播放中文字幕| 精品久久久影院| 福利91精品一区二区三区| 亚洲国产精品成人综合 | 在线精品国精品国产尤物884a| 亚洲精品你懂的| 日韩一区二区免费电影| 韩国v欧美v亚洲v日本v| 欧美国产精品专区| 91国产精品成人| 人禽交欧美网站| 久久精品夜色噜噜亚洲aⅴ| 99久久久免费精品国产一区二区 | 欧美日韩一区二区三区四区五区| 日韩 欧美一区二区三区| 精品久久国产字幕高潮| 国产盗摄精品一区二区三区在线| 精品成人佐山爱一区二区| 成人免费黄色大片| 午夜电影久久久| 中文字幕不卡的av| 在线电影院国产精品| 国产成+人+日韩+欧美+亚洲| 夜夜爽夜夜爽精品视频| 亚洲精品一区二区在线观看| 99久久精品费精品国产一区二区 | 日本乱码高清不卡字幕| 国产精品色呦呦| 欧美一级xxx| 91视频一区二区| 久久超碰97中文字幕| 有码一区二区三区| 久久青草国产手机看片福利盒子| 日本高清成人免费播放| 国产真实乱对白精彩久久| 亚洲一区国产视频| 亚洲国产成人在线| 日韩欧美高清在线| 欧洲精品视频在线观看| 国产在线一区二区综合免费视频| 一区二区中文字幕在线| 欧美精品一区二区三区四区| 欧美日韩成人在线| 一本大道久久a久久精二百| 国产精品一区二区久激情瑜伽 | 91国模大尺度私拍在线视频| 国产成人免费视频精品含羞草妖精| 午夜电影一区二区三区| 欧美高清在线一区| 国产三级三级三级精品8ⅰ区| 91麻豆国产自产在线观看| 国产成人精品综合在线观看| 亚洲精品网站在线观看| 国产亚洲精品福利| 欧美日韩国产经典色站一区二区三区| youjizz国产精品| 国产高清视频一区| 韩国视频一区二区| 久久超碰97人人做人人爱| 日日摸夜夜添夜夜添精品视频| 奇米综合一区二区三区精品视频| 美女尤物国产一区| 国产很黄免费观看久久| 97se狠狠狠综合亚洲狠狠| 欧美伊人精品成人久久综合97| 欧美嫩在线观看| 久久综合成人精品亚洲另类欧美 | 中日韩av电影| 一区二区在线观看不卡| 免费看黄色91| 99综合电影在线视频| 欧美午夜片在线看| 亚洲精品在线免费播放| 成人欧美一区二区三区1314| 亚洲国产日韩在线一区模特| 国产在线乱码一区二区三区| 99久久99久久精品免费观看| 欧美美女一区二区在线观看| 久久麻豆一区二区| 樱桃视频在线观看一区| 九九视频精品免费| 色婷婷一区二区| 2024国产精品| 亚洲一区二区av在线| 国产成人av电影在线播放| 在线亚洲一区观看| 久久久久国产一区二区三区四区| 亚洲一线二线三线视频| 韩国av一区二区三区四区| 欧美伊人久久久久久久久影院| 国产性天天综合网| 秋霞电影一区二区| 91免费版在线| 欧美精品一区二区久久久| 亚洲第一成人在线| a在线欧美一区| 国产亚洲精品中文字幕| 青青草91视频| 欧美精品日日鲁夜夜添|