Python3如何解决字符编码问题详解


            编码

因为计算机只能处理数字，如果要处理文本，就必须先把文本转换为数字才能处理。最早的计算机在设计时采用8个比特（bit）作为一个字节（byte），所以，一个字节能表示的最大的整数就是255（二进制11111111=十进制255），如果要表示更大的整数，就必须用更多的字节。比如两个字节可以表示的最大整数是65535，4个字节可以表示的最大整数是4294967295。

由于计算机是美国人发明的，因此，最早只有127个字母被编码到计算机里，也就是大小写英文字母、数字和一些符号，这个编码表被称为ASCII编码，比如大写字母A的编码是65，小写字母z的编码是122。



Python3字符编码

Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑。

Python2 字符串设计上的一些缺陷：



  使用 ASCII 码作为默认编码方式，对中文处理很不友好。

  把字符串的牵强地分为 unicode 和 str 两种类型，误导开发者

  



当然这并不算 Bug，只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了。

首先，Python3 把系统默认编码设置为 UTF-8





>>> import sys

>>> sys.getdefaultencoding()

'utf-8'

>>>



然后，文本字符和二进制数据区分得更清晰，分别用 str 和 bytes 表示。文本字符全部用 str 类型表示，str 能表示 Unicode 字符集中所有字符，而二进制字节数据用一种全新的数据类型，用 bytes 来表示。

str





>>> a = "a"

>>> a

'a'

>>> type(a)

<class 'str'>



>>> b = "禅"

>>> b

'禅'

>>> type(b)

<class 'str'>



bytes

Python3 中，在字符引号前加‘b'，明确表示这是一个 bytes 类型的对象，实际上它就是一组二进制字节序列组成的数据，bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据，但不能用中文等非ASCII字符表示。





>>> c = b'a'

>>> c

b'a'

>>> type(c)

<class 'bytes'>



>>> d = b'\xe7\xa6\x85'

>>> d

b'\xe7\xa6\x85'

>>> type(d)

<class 'bytes'>

>>>



>>> e = b'禅'

 File "<stdin>", line 1

SyntaxError: bytes can only contain ASCII literal characters.



bytes 类型提供的操作和 str 一样，支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 + 操作，尽管在py2中是可行的。





>>> b"a"+b"c"

b'ac'

>>> b"a"*2

b'aa'

>>> b"abcdef\xd6"[1:]

b'bcdef\xd6'

>>> b"abcdef\xd6"[-1]

214



>>> b"a" + "b"

Traceback (most recent call last):

 File "<stdin>", line 1, in <module>

TypeError: can't concat bytes to str



python2 与 python3 字节与字符的对应关系



  

    

      python2

      python3

      表现

      转换

      作用

    

    

      str

      bytes

      字节

      encode

      存储

    

    

      unicode

      str

      字符

      decode

      显示

    

  



encode 与 decode

str 与 bytes 之间的转换可以用 encode 和从decode 方法。



encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。





>>> s = "Python之禅"

>>> s.encode()

b'Python\xe4\xb9\x8b\xe7\xa6\x85'

>>> s.encode("gbk")

b'Python\xd6\xae\xec\xf8'



decode 负责字节到字符的解码转换，通用使用 UTF-8 编码格式进行转换。





>>> b'Python\xe4\xb9\x8b\xe7\xa6\x85'.decode()

'Python之禅'

>>> b'Python\xd6\xae\xec\xf8'.decode("gbk")

'Python之禅'



总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流。