当前位置: 肆参拓扑网 > 知识问答 > unicode字符是什么意思

unicode字符是什么意思

时间:2024-09-28 09:31:42来源:肆参拓扑网

unicode使任何语言的字符都可以为机器更容易的接受,unicode由uc(unicode协会)管理并接受其技术上的修改。包括java、ldap、xml这样的技术标准中均要求得到unicode的支持。unicode的字符被成为代码点(code points),用u后面加上***x来表示,其中,x为16进制的字符。

对于英文来说,ascii码 0-127就足以代码所有字符,对于中文而言,则必须使用两个字节(byte)来代表一个字符,具第一个字节必须大于127(所以我们有许程序判断中文都是以ascii码大于127作为条件)。以上用两个字节来表示一个中文的方式,在习惯上称为双字节(即dbcs: double-byte character set),而相对之下,英文的字符码就称为单字节sbcs(single-byte character set)。

虽然双字节(dbcs)足以解决中英文字符混合使用情况,但对于不同字符系统而言,必须经过字符码转换,非常麻烦。例如:中英文混合情况,日文,韩文等等。为解决这个问题,国际标准组织于1984年4月成立iso/iec jtc1/sc2/wg2工作组。针对各国文字、符号进行统一性编码。1991年美国跨国公司成立unicode consortium。并于1991年10月与wg2达成协议。采用同一编码字集。目前unicode是采用16位编码体系。其字符集内容与iso10646的bmp(basic multilingual plane)相同。unicode于1992年6月通过dis(draf international standard)。目前版本v2.0于1996公布。内容包含符号6811个。汉字20902个。韩文拼音11172个。造字区6400个。保留20249个。共计65534个。

随着国际互联网的迅速发展。要求进行数据交换的需求越来越大。不同的编码体系越来越成为信息交换的障碍。而且多种语言共存的文档不断增多。单靠代码页已很难解决这些问题。于是unicode应运而生。

unicode有双重含义。首先unicode是对国际标准iso/iec10646编码的一种称谓(iso/iec10646是一个国际标准。亦称大字符集。它是iso于1993年颁布的一项重要国际标准。其宗旨是全球所有文种统一编码)。另外它又是由美国的hp、microsoft、ibm、apple等大企业组成的联盟集团的名称。成立该集团的宗旨就是要推进多文种的统一编码。

unicode同现在流行的代码页最显著不同点在于:unicode是两字节的全编码。对于ascii字符它也使用两字节表示。代码页是通过高字节的取值范围来确定是ascii字符。还是汉字的高字节。如果发生数据损坏。某处内容破坏。则会引起其后汉字的混乱。unicode则一律使用两个字节表示一个字符。最明显的好处是它简化了汉字的处理过程。

unicode使用平面来描述编码空间。每个平面分为256行。256列。相对于两字节编码的高低两个字节。

unicode的第一个平面。称为basic multilingual plane(基本多文种平面)。简称bmp。由于bmp仅用两个字节表示。所以倍受青睐。

unicode的最初目标。是用1个16位的编码来为超过65000字符提供映射。但这还不够。它不能覆盖全部历史上的文字。也不能解决传输的问题(implantation head-ache's)。尤其在那些基于网络的应用中。因此。unicode用一些基本的保留字符制定了三套编码方式。它们分别是utf-8,utf-16和utf-32。正如名字所示。在utf-8中。字符是以8位序列来编码的。用一个或几个字节来表示一个字符。这种方式的最大好处。是utf-8保留了ascii字符的编码做为它的一部分。例如。在utf-8和ascii中。“a”的编码都是0x41.utf-16和utf-32分别是unicode的16位和32位编码方式。考虑到最初的目的。通常说的unicode就是指utf-16。

多年来。计算机普遍采用美国信息交换标准代码(american standard code for information interchange,简称ascii码)来表示字符。这些字符可以是字母。数字。标点符号和控制符。用这种编码来表示英文在内的字符不成问题的。但要表示其它语言文字如。***文。中文。日文。维文。哈文…必须进行扩充。在1987年。xerox palo alto研究中心的joe becker和lee collins。以及apple公司的mark davis试图研究一种适用于多文种处理的字符编码。这种编码很快就得到了许多大公司的支持。这些公司都派代表参加unicode研究组。unicode的研究得到了较快的进展。由于unicode集团的成员都是世界上的主要系统及软件制造商。所以unicode很快就成为事实上的工业标准。

基于unicode的系统允许使用65000个不同的字符。足以善盖世界所有语言的所有字母。外加数千种符号。

其中。general scripts区单独收录了19种语言文字。包括ascii,latin1,greek,cyrillic,armenian,hedrew,arabic,devanagari,bengali ,gurmukhi,gujarati,oriya,tamil,telugu,kannada,malayalam,thai,lao,*****an,georgian等语言文字之外。还包括汉语。日语和**语中的所有大量字符。

unicode是一种定长的2b多文种字符集编码。它试图善盖现有的有关国家和地区的标准。包括gb2312,cns11643,jis 0208和ksc 5601等。unicode可以表示混合文字资料。也可以保证以前的iso 10646。

unicode的特点是:

不管哪一国的字符码均以两个byte表示,例如"a"在unicode则是16进制 41和00的组合,即4100,高位41(转换为ascii码即是65=a),windows nt/2000以unicode来表示字符集,例如你可以看到ms sql server中产生的sql文件可以选择是以unicode来保存还是以普通格式来保存,如果你以unicode保存,则在95/98平台许多软件均无法正确读出其格式。

同时你还可以注意到95/98中api定义,许多名称结尾是有一个a的,例如

writeprofilestringa

而在nt/2000操作系统中,提供了两套api,另外一个命令是writeprofilestringw,以w 结尾的api只适用于nt / 2000。(在nt中使用以w结尾的api函数效率比a结尾的要快,因为省去了unicode和dbcs/sbcs的转换过程)

这样我们经常要用到的判断字符串长度的函数,在nt和95/98下执行结果不同,如下:(下面代码适合于vb, asp)

95/98中:

len("abc中国") 返回 7 (因为每个中文作为两个ascii码来看)

nt/2000中:

len("abc中国") 返回 5 (因为每个字符都作为一个unicode来看)

免责声明:文章数据由网友投稿或转载,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请与本站管理员联系,我们将在第一时间删除内容!
Copyright ©2020-2024 肆参拓扑网 (www.43tp.com) 版权所有 琼ICP备2022010180号-11