正则表达式是一种强大的用于描述字符串模式的工具。它可以用来匹配、搜索、替换和提取文本中符合特定模式的字符串。这种工具被广泛应用于字符串匹配、数据校验、数据清理、数据提取等场景。各种编程语言和文本编辑器都支持正则表达式,如Java、Python、PHP、Perl、JavaScript、Sublime Text、Notepad++等。
但这么强大的工具使用起来并不简单。想要熟练地掌握正则表达式需要掌握正则表达式的语法,而正则表达式的语法是比较抽象的。以下是来自维基百科的正则表达式的语法介绍:
但实际上正则表达式的作用常见的主要是:数据的校验,数据的查找和数据清洗和提取,其中数据的清洗和提取在python的爬虫中使用比较多,这些功能其实有其他实现方法
使用beautiful代替正则实现数据的清洗和提取
在python爬虫中,正则表达式往往用来提取爬取的页面中的数据。因为爬取的页面代码是由HTML标签构成的,他们往往符合一定的规律(比如链接使用a标签,以<a开头(因为a标签往往会带属性,在<a后面的内容往往有所不同),以</a>结尾),使用构造好的正则表达式可以批量地把页面中的一些我们需要的资源(他们往往是重复的且有规律的)筛选出来。
举个例子,筛选html中所有标签为span,类名为title的标签,可以使用如下正则表达式<span class="title">(.*?)</span>
但是使用其他方法也能达成同样的效果,比如beautifulsoup4(简称bs4),就是一个用于解析HTML代码的库,使用bs4可以用一种比较容易理解的方式来选中和清洗我们需要的数据,以爬取豆瓣前250的代码为例:
import requests
from bs4 import BeautifulSoup
url = "https://movie.douban.com/top250"
response = requests.get(url)
html = response.content
soup = BeautifulSoup(html, 'html.parser')
titles = soup.select('div.hd > a > span:nth-child(1)') # 用来选中我们需要的元素
for title in titles:
print(title.get_text()) # 用来提取我们选中的元素的内容
使用正则表达式生成工具生成数据校验正则式
对于前端开发而言,正则表达式是避免不了的内容,前端往后端发送数据时往往要先经过前端正则查一遍,严格一点的话后端也要查一遍,不过这些需要查的数据往往有固定的正则表达式可用。这个工具可以用来测试正则表达式,也提供了一些常用的正则表达式的写法:
而这个工具可以根据正则表达式生成代码:
使用字符串方法实现查找
要在一个字符串中查找一个子字符串不一定需要使用正则表达式,很多编程语言都提供了字符串查找的方法。
在python中,可以使用find方法来查找一个已知的字符串,使用replace方法来替换一个字符串,使用split方法来切割一个字符串。其他编程语言中一页有类似的方法。不过并不是所有的查找都能用字符串方法解决,它只适用于已确定子字符串的情况下的使用。
小结
虽然正则表达式语法比较复杂,但是多用几次也能熟悉它的语法,我们的编程并不是使用正则表达式来开发的,使用正则表达式的时间或许只有1%,所以并不必花费太多时间去研究正则表达式,利用好工具也可以快速写好一个正则表达式!