Python的爬虫包BeautifulSoup中用正则表达式来搜索
来源：
中文源码网 浏览：294 次 日期：2024-04-16 23:11:19
【下载文档: Python的爬虫包BeautifulSoup中用正则表达式来搜索.txt 】
Python的爬虫包Beautiful Soup中用正则表达式来搜索
Beautiful Soup使用时，一般可以通过指定对应的name和attrs去搜索，特定的名字和属性，以找到所需要的部分的html代码。
但是，有时候，会遇到，对于要处理的内容中，其name或attr的值，有多种可能，尤其是符合某一规律，此时，就无法写成固定的值了。
所以，就可以借助正则表达式来解决此问题。
比如，
crifan
对应的BeautifulSoup代码如下：
h1userSoup = soup.find(name="h1", attrs={"class":"h1user"});
而如果html是这种：
crifan
crifan 123
crifan 456
那么想要一次性地找到所有的，符合条件的h1的部分的代码，则之前的写法，就只能找到单个的class="h1user"的部分，剩下的两个
class="h1user test1"
和
class="h1user test2"
就找不到了。
那么，此时，就可以用到，BeautifulSoup中非常好用的，非常强大的功能：
attrs中支持正则表达式的写法
了。
就可以写成：
h1userSoupList = soup.findAll(name="h1", attrs={"class":re.compile(r"h1user(\s\w+)?")});
就可以一次性地，找到：
class="h1user"
class="h1user test1"
class="h1user test2"
了。
之类的标签，xxx的内容未知（可变）的前提下
想要查找到对应的此div标签，之前不知道如何实现。
如果写成：
sopu.findAll("div", attrs={"aria-lable": "xxx"});
则xxx必须写出来，如果不写出来属性值，也就没法用上attrs了，就没法实现此处查找特性属性值的标签了。
所以针对：
可以通过：
soup.findAll("div", attrs={"aria-lable": True});
去查找到属性包含aria-lable的div标签的。
所以，对于上面的，之前不知道如何处理：
用BeautifulSoup查找未知属性值，但是已知属性的名字的标签
则此处，就可以针对：
去用：
sopu.findAll("div", attrs={"aria-lable": True});
就可以查找到对应的包含属性aria-lable的div标签了。
