
正则表达式一直是困扰很多程序员的一门技术,当然也包括曾经的我。大多数时候我们在开发过程中要用到某些正则表达式的时候,都会打开谷歌或者百度直接搜索而后拷贝粘贴。当下一次再遇到相同问题的时候,同样的场景又再来一遍。作为一门用途很广的技术,我相信深入了解正则表达式并能融会贯通是值得的。所以,希望这篇文章能帮助大家理清思路,搞懂正则表达式各种符号之间的内在联络,形成知识体系,当下次再遇到正则表达式的时候可以不借助搜索引擎,自己处理。
正则表达式(Regular Expression)其实就是一门工具,目的是为了字符串模式匹配,从而实现搜索和替换功能。它起源于上个20世纪50年代科学家在数学领域做的少量研究工作,后来才被引入到计算机领域中。从它的命名我们可以知道,它是一种用来形容规则的表达式。而它的底层原理也十分简单,就是使用状态机的思想进行模式匹配。大家可以利用https://regexper.com这个工具很好地可视化自己写的正则表达式:
如/\d\w+/这个正则生成的状态机图:
image对于具体的算法实现,大家假如感兴趣可以阅读《算法导论》。
我们学习一个系统化的知识,肯定要从其基础构成来理解。正则表达式的基本组成元素可以分为:字符和元字符。字符很好了解,就是基础的计算机字符编码,通常正则表达式里面使用的就是数字、英文字母。而元字符,也被称为特殊字符,是少量用来表示特殊语义的字符。如^表示非,|表示或者等。利用这些元字符,才能构造出强大的表达式模式(pattern)。接下来,我们就来从这些基本单位出发,来学习一下如何构建正则表达式。
最简单的正则表达式可以由简单的数字和字母组成,没有特殊的语义,纯粹就是逐个对应的关系。如想在'apple'这个单词里找到‘a'这个字符,就直接用/a/这个正则即可以了。
但是假如想要匹配特殊字符的话,就得请出我们第一个元字符\, 它是转义字符字符,顾名思义,就是让其后续的字符失去其原本的含义。举个例子:
我想匹配*这个符号,因为*这个符号本身是个特殊字符,所以我要利用转义元字符\来让它失去其原本的含义:
/\*/假如原本这个字符不是特殊字符,使用转义符号就会让它拥有特殊的含义。我们常常需要匹配少量特殊字符,比方空格,制表符,回车,换行等, 而这些就需要我们使用转义字符来匹配。为了便于记忆,我整理了下面这个表格,并附上记忆方式:
| 特殊字符 | 正则表达式 | 记忆方式 |
|---|---|---|
| 换行符 | \n | new line |
| 换页符 | \f | form feed |
| 回车符 | \r | return |
| 空白符 | \s | space |
| 制表符 | \t | tab |
| 垂直制表符 | \v | vertical tab |
| 回退符 | [\b] | backspace,之所以使用[]符号是避免和\b重复 |
单个字符的映射关系是一对一的,即正则表达式的被用来挑选匹配的字符只有一个。而这显然是不够的,只需引入集合区间和通配符的方式即可以实现一对多的匹配了。
在正则表达式里,集合的定义方式是使用中括号[和]。如/[123]/这个正则就能同时匹配1,2,3三个字符。那假如我想匹配所有的数字怎样办呢?从0写到9显然太过低效,所以元字符-即可以用来表示区间范围,利用/[0-9]/就能匹配所有的数字, /[a-z]/则可以匹配所有的英文小写字母。
即使有了集合和区间的定义方式,假如要同时匹配多个字符也还是要逐个列举,这是低效的。所以在正则表达式里衍生了一批用来同时匹配多个字符的简便正则表达式:
| 匹配区间 | 正则表达式 | 记忆方式 |
|---|---|---|
| 除了换行符之外的任何字符 | . | 句号,除了句子结束符 |
| 单个数字, [0-9] | \d | digit |
| 除了[0-9] | \D | not digit |
| 包括下划线在内的单个字符,[A-Za-z0-9_] | \w | word |
| 非单字字符 | \W | not word |
| 匹配空白字符,包括空格、制表符、换页符和换行符 | \s | space |
| 匹配非空白字符 | \S | not space |
一对一和一对多的字符匹配都讲完了。接下来,就该详情如何同时匹配多个字符。要实现多个字符的匹配我们只需屡次循环,重复使用我们的之前的正则规则即可以了。那么根据循环次数的多与少,我们可以分为0次,1次,屡次,特定次。
元字符?代表了匹配一个字符或者0个字符。设想一下,假如你要匹配color和colour这两个单词,就需要同时保证u这个字符能否出现都能被匹配到。所以你的正则表达式应该是这样的:/colo?r/。
元字符*用来表示匹配0个字符或者无数个字符。通常用来过滤某些可有可无的字符串。
元字符+适用于要匹配同个字符出现1次或者屡次的情况。
在某些情况下,我们需要匹配特定的重复次数,元字符{和}用来给重复匹配设置准确的区间范围。如'a'我想匹配3次,那么我就使用/a{3}/这个正则,或者者说'a'我想匹配至少两次就是用/a{2,}/这个正则。
以下是完整的语法:
- {x}: x次- {min, max}: 介于min次到max次之间- {min, }: 至少min次- {, max}: 至多max次因为这些元字符比较笼统,且容易混淆,所以我用了联想记忆的方式编了口诀能保证在用到的时候就能回忆起来。
| 匹配规则 | 元字符 | 联想方式 |
|---|---|---|
| 0次或者1次 | ? | 且问,此事有还无 |
| 0次或者无数次 | * | 宇宙洪荒,辰宿列张:宇宙伊始,从无到有,最后星宿布满星空 |
| 1次或者无数次 | + | 一加, +1 |
| 特定次数 | {x}, {min, max} | 可以想象成一个数轴,从一个点,到一个射线再到线段。min和max分别表示了左闭右闭区间的左界和右界 |
上面我们把字符的匹配都详情完了,接着我们还需要位置边界的匹配。在长文本字符串查找过程中,我们常常需要限制查询的位置。比方我只想在单词的开头结尾查找。
单词是构成句子和文章的基本单位,一个常见的使用场景是把文章或者句子中的特定单词找出来。如:
The cat scattered his food all over the room.我想找到cat这个单词,但是假如只是使用/cat/这个正则,就会同时匹配到cat和scattered这两处文本。这时候我们就需要使用边界正则表达式\b,其中b是boundary的首字母。在正则引擎里它其实匹配的是能构成单词的字符(\w)和不能构成单词的字符(\W)中间的那个位置。
上面的例子改写成/\bcat\b/这样就能匹配到cat这个单词了。
匹配完单词,我们再来看一下一整个字符串的边界怎样匹配。元字符^用来匹配字符串的开头。而元字符$用来匹配字符串的末尾。注意的是在长文本里,假如要排除换行符的干扰,我们要使用多行模式。试着匹配I am scq000这个句子:
I am scq000.I am scq000.I am scq000.我们可以使用/^I am scq000.$/m这样的正则表达式,其实m是multiple line的首字母。正则里面的模式除了m外比较常用的还有i和g。前者的意思是忽略大小写,后者的意思是找到所有符合的匹配。
最后,总结一下:
| 边界和标志 | 正则表达式 | 记忆方式 |
|---|---|---|
| 单词边界 | \b | boundary |
| 非单词边界 | \B | not boundary |
| 字符串开头 | ^ | 小头尖尖那么大个 |
| 字符串结尾 | $ | 终结者,美国科幻电影,美元符$ |
| 多行模式 | m标志 | multiple of lines |
| 忽略大小写 | i标志 | ignore case, case-insensitive |
| 全局模式 | g标志 | global |
字符匹配我们详情的差不多了,更加高级的用法就得用到子表达式了。通过嵌套递归和自身引用可以让正则发挥更强大的功能。
从简单到复杂的正则表达式演变通常要采用分组、回溯引用和逻辑解决的思想。利用这三种规则,可以推演出无限复杂的正则表达式。
其中分组表现在:所有以(和)元字符所包含的正则表达式被分为一组,每一个分组都是一个子表达式,它也是构成高级正则表达式的基础。假如只是使用简单的(regex)匹配语法本质上和不分组是一样的,假如要发挥它强大的作用,往往要结合回溯引用的方式。
所谓回溯引用(backreference)指的是模式的后面部分引用前面已经匹配到的子字符串。你可以把它想象成是变量,回溯引用的语法像\1,\2,....,其中\1表示引用的第一个子表达式,\2表示引用的第二个子表达式,以此类推。而\0则表示整个表达式。
假设现在要在下面这个文本里匹配两个连续相同的单词,你要怎样做呢?
Hello what what is the first thing, and I am am scq000.利用回溯引用,我们可以很容易地写出\b(\w+)\s\1这样的正则。
回溯引用在替换字符串中十分常用,语法上有些许区别,用$1,$2...来引用要被替换的字符串。下面以js代码作演示:
var str = 'abc abc 123';str.replace(/(ab)c/g,'$1g');// 得到结果 'abg abg 123'假如我们不想子表达式被引用,可以使用非捕获正则(?:regex)这样即可以避免白费内存。
var str = 'scq000'.str.replace(/(scq00)(?:0)/, '$1,$2')// 返回scq00,$2// 因为使用了非捕获正则,所以第二个引用没有值,这里直接替换为$2有时,我们需要限制回溯引用的适用范围。那么通过前向查找和后向查找即可以达到这个目的。
前向查找(lookahead)是用来限制后缀的。但凡以(?=regex)包含的子表达式在匹配过程中都会用来限制前面的表达式的匹配。例如happy happily这两个单词,我想取得以happ开头的副词,那么即可以使用happ(?=ily)来匹配。假如我想过滤所有以happ开头的副词,那么也可以采用负前向查找的正则happ(?!ily),就会匹配到happy单词的happ前缀。
详情完前向查找,接着我们再来详情一下它的反向操作:后向查找(lookbehind)。后向查找(lookbehind)是通过指定一个子表达式,而后从符合这个子表达式的位置出发开始查找符合规则的字串。举个简单的例子: apple和people都包含ple这个后缀,那么假如我只想找到apple的ple,该怎样做呢?我们可以通过限制app这个前缀,就能唯一确定ple这个单词了。
/(?<=app)ple/其中(?<=regex)的语法就是我们这里要详情的后向查找。regex指代的子表达式会作为限制项进行匹配,匹配到这个子表达式后,就会继续向后查找。另外一种限制匹配是利用(?<!regex) 语法,这里称为负后向查找。与正前向查找不同的是,被指定的子表达式不能被匹配到。于是,在上面的例子中,假如想要查找apple的ple也可以这么写成/(?<!peo)ple。
需要注意的,不是每种正则实现都支持后向查找。在javascript中是不支持的,所以假如有用到后向查找的情况,有一个思路是将字符串进行翻转,而后再使用前向查找,作完解决后再翻转回来。看一个简单的例子:
// 比方我想替换apple的ple为plyvar str = 'apple people';str.split('').reverse().join('').replace(/elp(?=pa)/, 'ylp').split('').reverse().join('');最后回顾一下这部分内容:
| 回溯查找 | 正则 | 记忆方式 |
|---|---|---|
| 引用 | \0,\1,\2 和 | 转义+数字 |
| 非捕获组 | (?:) | 引用表达式(()), 本身不被消费(?),引用(:) |
| 前向查找 | (?=) | 引用子表达式(()),本身不被消费(?), 正向的查找(=) |
| 前向负查找 | (?!) | 引用子表达式(()),本身不被消费(?), 负向的查找(!) |
| 后向查找 | (?<=) | 引用子表达式(()),本身不被消费(?), 后向的(<,开口往后),正的查找(=) |
| 后向负查找 | (?<!) | 引用子表达式(()),本身不被消费(?), 后向的(<,开口往后),负的查找(!) |
计算机科学就是一门包含逻辑的科学。让我们回忆一下编程语言当中用到的三种逻辑关系,与或者非。
在正则里面,默认的正则规则都是与的关系所以这里不探讨。
而非关系,分为两种情况:一种是字符匹配,另一种是子表达式匹配。在字符匹配的时候,需要使用^这个元字符。在这里要着重记忆一下:只有在[和]内部使用的^才表示非的关系。子表达式匹配的非关系就要用到前面详情的前向负查找子表达式(?!regex)或者后向负查找子表达式(?<!regex)。
或者关系,通常给子表达式进行归类使用。比方,我同时匹配a,b两种情况即可以使用(a|b)这样的子表达式。
| 逻辑关系 | 正则元字符 |
|---|---|
| 与 | 无 |
| 非 | [^regex]和! |
| 或者 | | |
对于正则来说,符号之笼统往往让很多程序员却步。针对不好记忆的特点,我通过分类和联想的方式努力让其变得有意义。我们先从一对一的单字符,再到多对多的子字符串详情,而后通过分组、回溯引用和逻辑解决的方式来构建高级的正则表达式。
在最后,出个常用的正则面试题吧:请写出一个正则来解决数字千分位,如12345替换为12,345。请尝试自己推理演绎得出答案,而不是依靠搜索引擎:)。
——本文首发于个人公众号,转载请注明出处———
微信扫描二维码,关注我的公众号最后,欢迎大家关注我的公众号,一起学习交流。