2025年4月15日 星期二 乙巳(蛇)年 正月十六 设为首页 加入收藏
rss
您当前的位置:首页 > 计算机 > 编程开发 > Python

python爬虫精选03集(re正则解析模块深入浅出)

时间:04-23来源:作者:点击数:35

追梦是需要激情和理想,圆梦是需要奋斗和奉献

一.正则表达式(基本简介)

  • 目的
    1.处理文本数据
    2.对文本内容的搜索,定位,提取是逻辑比较复杂的工作
    3.为了快速方便的解决上述问题,产生了正则表达式技术
  • 正则定义
    即文本的高级匹配模式,其本质是由一系列字符和特殊符号构成的字串,这个字串即正则表达式。
  • 原理
    通过普通字符和有特定含义的字符,来组成字符串,用以描述一定的字符串规则,比如:重复,位置等,来表达某类特定的字符串,进而匹配。
  • 目标
  1. 熟练掌握正则表达式元字符
  2. 能够读懂常用正则表达式,编辑简单的正则规则
  3. 能够熟练使用re模块操作正则表达式
  • re模块官方文档
    https://docs.python.org/zh-cn/3.8/library/re.html
  • re模块库源码
    https://github.com/python/cpython/blob/3.8/Lib/re.py

二. 元字符使用:

以下案例若需要在python或pycharm中执行需要引入re模块

模板示例:

  • import re
  • print(re.findall('ab',"abcdefabcd"))
  • # ['ab', 'ab']

2.1 普通字符:

  • 匹配规则:每个普通字符匹配其对应的字符
  • 例子:re.findall('ab',"abcdefabcd")
  • # ['ab', 'ab']

注意事项:正则表达式在python中也可以匹配中文

2.2 元字符:| (或关系)

  • 匹配规则:匹配 | 两侧任意的正则表达式即可
  • 例子:re.findall('com|cn',"www.baidu.com/www.jingdong.cn")
  • #['com', 'cn']

2.3 元字符:. (匹配单个元字符)

  • 匹配规则:匹配除换行外的任意一个字符
  • 例子:re.findall('钱天.',"钱天二,钱天三,钱天四")
  • # ['钱天二', '钱天三', '钱天四']

2.4 元字符: [字符集]

  • 匹配规则: 匹配字符集中的任意一个字符
  • 表达形式:
  • [abc#!好] 表示 [] 中的任意一个字符
  • [0-9],[a-z],[A-Z] 表示区间内的任意一个字符
  • [_#?0-9a-z] 混合书写,一般区间表达写在后面
  • 例子:re.findall('[aeiou]',"How are you!")
  • # ['o', 'a', 'e', 'o', 'u']

2.5 元字符:[^字符集] (匹配反字符集)

  • 匹配规则:匹配除了字符集以外的任意一个字符
  • 例子:re.findall('[^0-9]',"Use 007 port")
  • #['U', 's', 'e', ' ', ' ', 'p', 'o', 'r', 't']

2.6 元字符:^ \A

  • 匹配规则:匹配字符串开始位置
  • 例子:re.findall('^Jame',"Jame,hello")
  • #['Jame']

2.7 元字符:$ \Z

  • 匹配规则:匹配目标字符串的结尾位置
  • 例子:re.findall('Jame$',"Hi,Jame")
  • #['Jame']

规则技巧: ^ 和 $必然出现在正则表达式的开头和结尾处。如果两者同时出现,则中间的部分必须匹配整个目标字符串的全部内容。

2.8 元字符:*

  • 匹配规则:匹配前面的字符出现0次或多次
  • 例子:re.findall('ha*',"haaaaaa~~~~h!")
  • #['haaaaaa', 'h']

2.9 元字符:+

  • 匹配规则:匹配前面的字符出现1次或多次
  • 例子:re.findall('[A-Z][a-z]+',"Hello World")
  • #['Hello', 'World']

2.10 元字符:?

  • 匹配规则:匹配前面的字符出现0次或1
  • 例子:匹配手机号 re.findall('-?[0-9]+',"Jame,age:18, -26")
  • #['18', '-26']

2.11 元字符:{n}

  • 匹配规则:匹配前面的字符出现n
  • 例子:re.findall('1[0-9]{10}',"Jame:13886495728")
  • #['13886495728']

2.12 元字符:{m,n}

  • 匹配规则: 匹配前面的字符出现m-n
  • 例子:匹配QQre.findall('[1-9][0-9]{5,10}',"QQ:1259296994")
  • #['1259296994']

2.13 元字符:\d \D

  • 匹配规则:\d 匹配任意数字字符,\D 匹配任意非数字字符
  • 例子:匹配端口 re.findall('\d{1,5}',"Mysql: 3306, http:80")
  • #['3306', '80']

2.14 元字符:\w \W

  • 匹配规则:\w 匹配普通字符,\W 匹配非普通字符
  • 说明: 普通字符指数字,字母,下划线,汉字。
  • 例子: re.findall('\w+',"server_port = 8888")
  • #['server_port', '8888']

2.15 元字符:\s \S

  • 匹配规则:\s 匹配空字符,\S 匹配非空字符
  • 说明:空字符指 空格 \r \n \t \v \f 字符
  • 例子: re.findall('\w+\s+\w+',"hello world")
  • #['hello world']

2.16 元字符:\s \S

  • 匹配规则:\s 匹配空字符,\S 匹配非空字符
  • 说明:空字符指 空格 \r \n \t \v \f 字符
  • 例子: re.findall('\w+\s+\w+',"hello world")
  • #['hello world']

2.17 元字符:\b \B

  • 匹配规则:\b 表示单词边界,\B 表示非单词边界
  • 说明:单词边界指数字字母(汉字)下划线与其他字符的交界位置。
  • 例子:re.findall(r'\bis\b',"This is a test.")
  • #['is']

注意: 当元字符符号与Python字符串中转义字符冲突的情况则需要使用r将正则表达式字符串声明为原始字符串,如果不确定那些是Python字符串的转义字符,则可以在所有正则表达式前加r。

三.匹配规则

3.1特殊字符匹配

  • 目的 : 如果匹配的目标字符串中包含正则表达式特殊字符,则在表达式中元字符就想表示其本身含义时就需要进行 \ 处理。
    • 特殊字符: . * + ? ^ $ [] () {} | \
  • 操作方法:在正则表达式元字符前加 \ 则元字符就是去其特殊含义,就表示字符本身
  • e.g. 匹配特殊字符 . 时使用 \. 表示本身含义
  • In : re.findall('-?\d+\.?\d*',"123,-123,1.23,-1.23")
  • Out: ['123', '-123', '1.23', '-1.23']

3.2贪婪模式和非贪婪模式

  • 定义

贪婪模式: 默认情况下,匹配重复的元字符总是尽可能多的向后匹配内容。比如: * + ? {m,n}

非贪婪模式(懒惰模式): 让匹配重复的元字符尽可能少的向后匹配内容。

  • 贪婪模式转换为非贪婪模式
  • 贪婪模式【匹配重复】默认最大值
  • 非贪婪模式最小值,在【匹配重复】后加?

在对应的匹配重复的元字符后加 ‘?’ 号即可

  • * -> *?
  • + -> +?
  • ? -> ??
  • {m,n} -> {m,n}?
  • e.g.
  • In : re.findall(r'\(.+?\)',"(abcd)efgh(higk)")
  • Out: ['(abcd)', '(higk)']

Demo

  • import re
  • # 贪婪匹配 ['《java入门到放弃》,派神:《python入门到放弃》,前端:《Html直接放弃,are you ok》']
  • print(re.findall('《.+》', "抓娃:《java入门到放弃》,派神:《python入门到放弃》,前端:《Html直接放弃,are you ok》"))
  • # 非贪婪匹配 ['《java入门到放弃》', '《python入门到放弃》', '《Html直接放弃,are you ok》']
  • print(re.findall('《.+?》', "抓娃:《java入门到放弃》,派神:《python入门到放弃》,前端:《Html直接放弃,are you ok》"))

3.3 正则表达式分组

  • 定义:
    在正则表达式中,以()建立正则表达式的内部分组,子组是正则表达式的一部分,可以作为内部整体操作对象。
  • 作用:
    (1)可以别作为整体操作,改变元字符的操作对象。
  • #(1)改变 +号 重复的对象
  • re.search(r'(ab)+',"ababababab").group()
  • #'ababababab'
  • #(2)改变 |号 操作对象
  • re.search(r'(王|李)\w{1,3}',"王者荣耀").group()
  • #'王者荣耀'

(2)可以通过编程语言某些借口获取陪陪内容中子组对应的内容部分

  • #获取url协议类型
  • re.search(r'(https|http|ftp|file)://\S+',"https://www.baidu.com").group(1)
  • 捕获组:

可以给正则表达式的子组起一个名字,表达该子组的意义。这种有名称的子组即为捕获组

格式:"(?Ppattern)"

  • #给子组命名为 "pig"
  • re.search(r'(?P<pig>ab)+',"ababababab").group('pig')
  • #'ab'

注意事项

  1. 一个正则表达式中可以包含多个子组
  2. 子组可以嵌套,但是不要重叠或者嵌套结构复杂
  3. 子组序列号一般从外到内,从左到右计数
在这里插入图片描述

四.总结

4.1 正则表达式原则

  • 正确性,能够正确的匹配出目标字符串。
  • 排他性,除了目标字符串意外尽可能少的匹配其他内容。
  • 全面性,尽可能考虑到目标字符串的所有情况,不遗漏。

4.2普通字符集的替换

在这里插入图片描述

4.3计数符

在这里插入图片描述

4.4巩固提升

  1. 如果使用正则表达式匹配特殊字符则需要加 \ 表示转义。
  • 特殊字符: . * + ? ^ $ [] () {} | \
  • 匹配特殊字符 . 时使用 . 表示本身含义
    例子1:
  • import re
  • print(re.findall('-?\d+\.?\d*',"123,-123,1.23,-1.23"))
  • #['123', '-123', '1.23', '-1.23']
  • 例子2:
  • import re
  • s="1992年5月2日出生于中国,中国内地影视女演员-12,12.34,1/0,40%,-1.6"
  • r=re.findall('-?\d+\.?/?\d*%?',s)
  • print(r)
  • #['1992', '5', '2', '-12', '12.34', '1/0', '40%', '-1.6']

2 . 在编程语言中,常使用原生字符串书写正则表达式避免多重转义的麻烦。

  • python字符串 --> 正则 --> 目标字符串
  • "\\$\\d+" 解析为 \$\d+ 匹配 "$100"
  • "\\$\\d+" 等同于 r"\$\d+"
方便获取更多学习、工作、生活信息请关注本站微信公众号城东书院 微信服务号城东书院 微信订阅号
推荐内容
相关内容
栏目更新
栏目热门