爬蟲——正則表達式re模塊

為什么要學習正則表達式

實際上爬蟲一共就四個主要步驟：

明確目標：需清楚目標網站
爬：將所有的目標網站的內容全部爬下來
取：在爬下來的網站內容中去掉對我們沒有用處的數據，只留取我們需要的數據
處理數據：按照我們想要的方式存儲和使用留取的數據

我們在前面的案例里實際上都省略了第3步，也就是“取”的步驟。因為我們down下了的數據是全部的網頁，這些數據很龐大并且很混亂，其中大部分的東西是我們不關心的，因此我們需要將之按我們的需要過濾和匹配出來。

那么對于文本的過濾和者規則的匹配，最強大的就是正則表達式了。

那么什么是正則表達式：

正則表達式，又稱規則表達式，通常被用來檢索、替換那些符合某個規則的文本。
正則表達式是對字符串操作的一種邏輯公式，就是用事先定義好的一些特定字符及這些特定字符的組合，組成一個“規則字符串”，這個“規則字符串”用來表達對字符串的一種過濾邏輯。

給定一個正則表達式和另一個字符串，我們可以達到如下的目的：

給定的字符串是否符合正則表達式的過濾邏輯（“匹配”）
通過正則表達式，從文本字符串中獲取我們想要的特定部分（“過濾”）

正則表達式規則

Python的re模塊

在Python中，我們可以使用內置的re模塊來使用正則表達式。

有一點需要特別注意的是，正則表達式使用對特殊字符進行黑底，所以如果我們要使用原始字符串，只需要加一個r前綴：r'i love\t\.\tpython'

re模塊的一般使用步驟如下：

使用compile()函數將正則表達式的字符串形式編譯為一個Pattern對象
通過Pattern對象提供的一系列方法對文本進行匹配查找，獲得匹配結果，一個Match對象。
最后使用Match對象提供的屬性和方法獲得信息，根據需要進行其他操作。

compile函數

compile函數用于編譯正則表達式，生成一個Pattern對象，它的一般使用形式如下：

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'import re# 將正則表達式編譯成Pattern對象
pattern = re.compile('\d+')

在上面，我們已將一個正則表達式編譯成Pattern對象，接下來，我們就可以利用pattern的一系列方法對文本匹配查找了。

Pattern對象的一些常用方法主要有：

match()方法：從起始位置開始查找，一次匹配
search()方法：從任何位置開始查找，一次匹配
findall()方法：全部匹配，返回列表
finditer()方法：全部匹配，返回迭代器
split()方法：分割字符串，返回列表
sub()方法：替換

match()方法

match()方法用于查找字符串的頭部（也可以指定起始位置），它是一次匹配，只要找到了一個匹配的結果就返回，而不是查找所有匹配的結果。它的一般使用形式如下：

match(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。因此，當你不指定pos和endpos時，match()方法默認匹配字符串的頭部。

當匹配成功時，返回一個Match對象，如果沒有匹配上，則返回None。

>>> import re
>>> pattern = re.compile(r'\d+')  # 用于匹配至少一個數字>>> m = pattern.match('one12twothree34four')  # 查找頭部，沒有匹配
>>> print m
None>>> m = pattern.match('one12twothree34four', 2, 10) # 從'e'的位置開始匹配，沒有匹配
>>> print(m)
None>>> m = pattern.match('one12twothree34four', 3, 10) # 從'1'的位置開始匹配，正好匹配
>>> print(m)                                        # 返回一個 Match 對象
<_sre.SRE_Match object; span=(3, 5), match='12'>>>> print(m.group(0))   # 可省略 0
12
>>> print(m.start(0))   # 可省略 0
3
>>> print(m.end(0))     # 可省略 0
5
>>> print(m.span(0))    # 可省略 0
(3, 5)

在上面，當匹配成功時返回一個Match對象，其中：

group([group1,...])方法用于獲得一個或多個分組匹配的字符串，當要獲得整個匹配的子串時，可直接使用group()或group(0)
start([group])方法用于獲取分組匹配的子串在整個字符串中的起始位置（子串第一個字符的索引），參數默認值為0
end([group])方法用于獲取分組匹配的子串在整個字符串中的結束位置（子串最后一個字符的索引 + 1），參數默認值為0
span([group])方法返回(start(group), end(group))

再看一個例子：

>>> import re
>>> pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I)  # re.I 表示忽略大小寫
>>> m = pattern.match('Hello World Wide Web')>>> print(m)     # 匹配成功，返回一個 Match 對象
<_sre.SRE_Match object; span=(0, 11), match='Hello World'>>>> print(m.group(0))  # 返回匹配成功的整個子串
Hello World>>> print(m.span(0))   # 返回匹配成功的整個子串的索引
(0, 11)>>> print(m.group(1))  # 返回第一個分組匹配成功的子串
Hello>>> print(m.span(1))   # 返回第一個分組匹配成功的子串的索引
(0, 5)>>> print(m.group(2))  # 返回第二個分組匹配成功的子串
World>>> print(m.span(2))   # 返回第二個分組匹配成功的子串
(6, 11)>>> print(m.groups())  # 等價于 (m.group(1), m.group(2), ...)
('Hello', 'World')>>> print(m.group(3))   # 不存在第三個分組
Traceback (most recent call last):File "<stdin>", line 1, in <module>
IndexError: no such group

search()方法

search()方法用于查找字符串的任何位置，它也是一次匹配，只要找到了一個匹配的結果就返回，而不是查找所有匹配的結果，它的一般使用形式如下：

search(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。

當匹配成功時，返回一個Match對象，如果沒有匹配上，則返回None。

如下例子：

>>> import re
>>> pattern = re.compile('\d+')
>>> m = pattern.search('one12twothree34four')
>>> print(m)
<_sre.SRE_Match object; span=(3, 5), match='12'>
>>> print(m.group())
12
>>> m = pattern.search('one12twothree34four', 10, 30)
>>> print(m)
<_sre.SRE_Match object; span=(13, 15), match='34'>
>>> print(m.group())
34
>>> print(m.span())
(13, 15)

再看一個例子：

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'import re# 將正則表達式編譯成Pattern對象
pattern = re.compile(r'\d+')# 使用search() 查找匹配的子串，不存在匹配的子串時，返回None
m = pattern.search('hello 123 456 789') # 若這里使用match()，返回Noneif m:print("matching string:", m.group())print("position:", m.span())

執行結果：

matching string: 123
position: (6, 9)

findall()方法

上面的match()和search()方法都是一次匹配，只要找到了一個匹配的結果就返回。然而，在大多數時候，我們需要搜索整個字符串，獲得所有匹配的結果。

findall()方法的使用形式如下：

findall(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。

findall()以列表形式返回全部能匹配的子串，如果沒有匹配成功，則返回一個空列表。

如下：

>>> import re
>>> pattern = re.compile(r'\d+')  # 匹配數字
>>> res1 = pattern.findall('hello 123 456 789')
>>> res2 = pattern.findall('one1two2three3four4', 0, 16)
>>> print(res1)
['123', '456', '789']
>>> print(res2)
['1', '2', '3']

再看一個例子：

>>> import re
>>> pattern = re.compile(r'\d+\.\d+')  # 匹配小數
>>> res = pattern.findall("3.1415926, 'big', 110, 95.5")
>>> print(res)
['3.1415926', '95.5']

finditer()方法

finditer()方法的行為跟findall()的行為類似，也是搜索整個字符串，獲得所有匹配的結果。但它返回一個順序訪問每一個匹配結果（Match對象）的迭代器。

如下：

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'import repattern = re.compile(r'\d+')res_iter1 = pattern.finditer("hello 123 456 789")
res_iter2 = pattern.finditer("one1two2three3four4", 0, 16)print(res_iter1)
print(res_iter2)print("res_iter1......")
for m1 in res_iter1:print("matching string:{}, position:{}".format(m1.group(), m1.span()))print("res_iter2......")
for m2 in res_iter2:print("matching string:{}, position:{}".format(m2.group(), m2.span()))

執行結果：

<callable_iterator object at 0x00ADF7F0>
<callable_iterator object at 0x00ADF230>
res_iter1......
matching string:123, position:(6, 9)
matching string:456, position:(10, 13)
matching string:789, position:(14, 17)
res_iter2......
matching string:1, position:(3, 4)
matching string:2, position:(7, 8)
matching string:3, position:(13, 14)

split()方法

spilt()方法按照能夠匹配的子串將字符串分割后返回列表，它的使用形式如下：

split(string[, maxsplit])

其中，maxsplit用于指定最大分割次數，不指定將全部分割。

如下：

>>> import re
>>> pattern = re.compile(r'[\s\,\;]+')
>>> print(pattern.split('a,b;; c  d'))
['a', 'b', 'c', 'd']

sub()方法

sub()方法用于替換。它的使用形式如下：

sub(repl, string[, count])

其中，repl可以是字符串也可以是一個函數：

如果repl是字符串，則會使用repl去替換字符串每一個匹配的子串，并返回替換后的字符串，另外，repl還可以使用id的形式來引用分組，但不能使用編號0
如果repl是函數，這個方法應當只接受一個參數（Match對象），并返回一個字符串用于替換（返回的字符串中不能再引用分組）
count用于指定最多替換次數，默認全部替換

如下：

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'import repattern = re.compile(r'(\w+) (\w+)') # \w: [A-Za-z0-9]string = 'hello 123, hello 456'print(pattern.sub('hello world', string))
# 我是分割線
print("*" * 30)print(pattern.sub(r'\2 \1', string))# 我是分割線
print("*" * 30)def func(m):return 'hi ' + m.group(2)print(pattern.sub(func, string))# 我是分割線
print("*" * 30)# 最多替換一次
print(pattern.sub(func, string, 1))

執行結果：

hello world, hello world
******************************
123 hello, 456 hello
******************************
hi 123, hi 456
******************************
hi 123, hello 456

匹配中文

在某些情況下，我們想匹配文本中的漢字，中文的unicode編碼范圍主要在[u4e00-u9fa5]，這里說主要是因為這個范圍并不完整，比如沒有包括全角（中文）標點，不過，在大部分情況下，應該是夠用的。

例如：要想把字符串s = "您好，世界。hello world!"中的中文提取出來，可以這么做

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'import restring = "你好，世界。hello world!"pattern = re.compile(r"[\u4e00-\u9fa5]+")res = pattern.findall(string)print(res)

執行結果