字节UTF到Unicode的编码转换(DOC X页)

unicode编码转换  时间:2021-04-12  阅读:()

UTF-8就是Unicode Transformation Format-8是Unicode的一种变换编码格式。

UTF-8有以下特性:

UCS字符U+0000到U+007F(ASCII)被编码为字节0x00到0x7F(ASCII兼容).这意味着只包含7位ASCII字符的文件在ASCII和UTF-8两种编码方式下是一样的.

所有>U+007F的UCS字符被编码为一个多个字节的串,每个字节都有标记位集.因此,ASCII字节(0x00-0x7F)不可能作为任何其他字符的一部分.

表示非ASCII字符的多字节串的第一个字节总是在0xC0到0xFD的范围里,并指出这个字符包含多少个字节.多字节串的其余字节都在0x80到0 xBF范围里.这使得重新同步非常容易,并使编码无国界,且很少受丢失字节的影响.

可以编入所有可能的231个UC S代码

UTF-8编码字符理论上可以最多到6个字节长,然而16位B MP字符最多只用到3字节长.

Bigendian UCS-4字节串的排列顺序是预定的.

字节0xFE和0xFF在UTF-8编码中从未用到.

下列字节串用来表示一个字符.用到哪个串取决于该字符在Unicode中的序号.

U-00000000 - U-0000007F: 0xxxxxxx

U-00000080 - U-000007FF: 110xxxxx 10xxxxxx

U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx

U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx10xxxxxx从上表还可以看出 UTF-8每个编码字符都不可能以“10”开头 “10”是以连接符的形式出现在后面的编码字节开头。因此UTF-8编码在存储和传输时是不容易出错的。

下面是UTF-8到Unicode的编码转换代码(J2 ME环境下的实现)UTFC2UniC方法包含了编码转换逻辑。/**

*将UTF-8字节数据转化为Unicode字符串

*@p aram ut f_data b yte[] -U TF-8编码字节数组

*@param len int -字节数组长度

*@return String-变换后的Unicode编码字符串

*/pub lic static String UTF2Uni(byte[]utf_data, int len){

StringBuffer unis=new StringBuffer();char unic=0;int ptr=0;int c ntB its=0;fo r(;p tr<len;)

{cntB its=getC ntB its(ut f_da ta[ptr]);if(c ntB its==-1)

{

++ptr;c o nt inue;

}elseif(c ntB its==0)

{unic=UTFC2UniC(utf_data,ptr,cntB its);

++ptr;

}else

{unic=UTFC2UniC(utf_data,ptr,cntB its);ptr+=cntBits;

}unis.appe nd(unic);

}return unis.to S tring();

}

/**

*将指定的UTF-8字节组合成一个Unicode编码字符

*@p aram ut f b yte[] -UTF-8字节数组

*@param sptr int -编码字节起始位置

*@param cntB its int -编码字节数

*@return char-变换后的Unicode字符

*/pub lic static char UTFC2UniC(byte[]utf, int sptr, int cntBits)

{

/*

Unicode<->UTF-8

U-00000000-U-0000007F: 0 xxxxxxx

U-00000080-U-000007FF: 110xxxxx 10 xxxxxx

U-00000800-U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx

U-00010000-U-001 FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

U-00200000-U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

U-04000000-U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

*/int uniC=0; // repre sent the unicode charbyte firstByte=utf[sptr];int ptr=0; // po inter 0~15

//resolve single byte UTF-8 encoding charif(c ntB its==0)return(c har)fir stByte;

//re so lve the first bytefirs tB yte&=(1<<(7-c nt B its)) - 1;

//resolve multiple bytes UTF-8 encoding char(except the first byte)fo r(int i=sptr+c ntB its - 1; i>sp tr; --i)

{byte utfb=utf[i];uniC|=(utfb&0x3 f)<<ptr;ptr+=6;

}uniC|=fir stB yte<<p tr;return(c har)uniC;

}

//根据给定字节计算UTF-8编码的一个字符所占字节数

//UTF-8规则定义字节标记只能为0或2~6

private static int getCntBits(byte b)

{int cnt=0;i f(b==0)re t ur n-1;for(int i=7; i>=0; --i)

{if(((b>>i)&0x1)==1)

++cnt;elseb re ak;

}return(cnt>6| |cnt==1)?-1 :cnt;

}

参考资料

《UTF-8 and Unicode FAQ》——http://www.linuxforum.net/books/UTF-8-Unicode.html

小渣云(36元/月)美国VPS洛杉矶 8核 8G

小渣云 做那个你想都不敢想的套餐 你现在也许不知道小渣云 不过未来你将被小渣云的产品所吸引小渣云 专注于一个套餐的商家 把性价比 稳定性 以及价格做到极致的商家,也许你不相信36元在别人家1核1G都买不到的价格在小渣云却可以买到 8核8G 高配云服务器,并且在安全性 稳定性 都是极高的标准。小渣云 目前使用的是美国超级稳定的ceranetworks机房 数据安全上 每5天备份一次数据倒异地 支持一...

华纳云不限流量¥324/年,香港双向CN2(GIA)云服务器/1核1G/50G存储/2Mbps

华纳云(HNCloud Limited)是一家专业的全球数据中心基础服务提供商,总部在香港,隶属于香港联合通讯国际有限公司,拥有香港政府颁发的商业登记证明,保证用户的安全性和合规性。 华纳云是APNIC 和 ARIN 会员单位。主要提供香港和美国机房的VPS云服务器和独立服务器。商家支持支付宝、网银、Paypal付款。华纳云主要面向国内用户群,所以线路质量还是不错的,客户使用体验总体反响还是比较好...

亚洲云-浙江高防BGP,至强铂金8270,提供自助防火墙管理,超大内存满足你各种需求

官方网站:点击访问亚洲云官网618活动方案:618特价活动(6.18-6.30)全站首月活动月底结束!地区:浙江高防BGPCPU:至强铂金8270主频7 默频3.61 睿频4.0核心:8核(最高支持64核)内存:8G(最高支持128G)DDR4 3200硬盘:40G系统盘+80G数据盘带宽:上行:20Mbps/下行:1000Mbps防御:100G(可加至300G)防火墙:提供自助 天机盾+金盾 管...

unicode编码转换为你推荐
企业邮局系统什么邮件系统最适合企业?internalservererrorError 500--Internal Server Error 求教这个问题怎么解决?http500http://bb500.com 这个电影网站安全不?为什么?有人能告诉我吗?不懂的人表乱说浪费你我的时间谢谢在线代理QQ代理服务器怎么弄啊?地址是指IP,端口是什么?有必要该吗?还有用户,密码,都代表什么啊?搜狗360360浏览器为什么不能让我自动登录了360和搜狗360搜索和搜狗搜索谁好谁流量大?为什么我在网上搜索到的数据有一定矛盾?做广告推广哪个好呢?sqlserver数据库如何登陆sql server中的数据库重庆杨家坪猪肉摊主杀人重庆一市民发现买的新鲜猪肉晚上发蓝光.专家解释,猪肉中含磷较多且携带了一种能发光的细菌--磷光杆菌时ipad代理想买个ipad买几代性价比比较高大飞资讯手机出现热点资讯怎么关闭
买域名 腾讯云盘 kvmla l5639 香港主机 512av 网盘申请 免费个人网站申请 电信主机 空间登入 中国linux 云服务器比较 lamp是什么意思 中国联通宽带测速 后门 hosting24 nano qq部落18-3 ddos攻击 香港云主机 更多