编译原理助我脱坑

开发 前端
折腾了几天之后发现按照穷举法去发现所有的异常case实在是太难了,因为我们的精力是有限的,一时半会无法想到所有的case,那有没有什么办法呢?

一、背景

有一个需求,需要将源码提供出去,交予三方进行安全审核,为了减少代码泄漏带来的影响,要求将

  1. 自己的源码中要有代码注释
  2. 对外提供的代码中,将所有的代码注释移除,增加其他人的代码阅读难度

二、艰难的爬坑过程

1、整理java中的注释情形

多行注释:
/**
多行注释
*/
  • 单行注释:
// 单行注释

2、初步入坑

对上一步的情况分析后简单的结论,

  1. 以 /* 开头,以*/结尾
  2. 以 //开头,以换行或者文件结束 结尾

3、核心代码

  • 获取多行注释内容的代码
re.findall("\/\*.*?\*\/", content, re.S)
  • 按行遍历文件,检查是否包含 “//”,如果包含就将 “//”及以后的内容替换为换行
re.findall("\/\/.*", line, re.S)

4、进入大坑

本以为这样是一个简单粗暴的方法,真正跑起来之后发现有较大问题

  • 字符串中包含 多行和单行 注释的话,就会导致字符串内的内容被修改
  • 单行被错误移除
"(?m)^//.*(?=\\n)"
  • 单行注释移除异常
// 后面有一个单独的 “ ,引号的排查优先级高,导致这个引号被保留,导致整体移除异常
  • 字符串的识别遇到问题
‘“’
"select * from user where name = 'root'"
“\"” 
  • 中间的引号不能作为字符串的开始和结尾
  • 最后的双引号需要算做字符串的结尾
  • 这样的不能当作双引号,也就是这样的不能作为字符串的开始和结尾

三、回头是岸

有时候捷径不是最快的路径。

折腾了几天之后发现按照穷举法去发现所有的异常case实在是太难了,因为我们的精力是有限的,一时半会无法想到所有的case,那有没有什么办法呢?

这个时候记忆深处的一些内容开始冒泡泡,程序员的三大浪漫之一的 编译原理 开始出现了。

之前懵懵懂懂读过的文本开始有一点点印象了。重新翻开经典之作的内容,看看他是怎么来处理词法和语法的。

1、回顾编译原理

  1. 词法分析,程序中的单词大体可以分成五类:

图片

  1. 语法分析,比如,对于赋值语句​​position = initial + 2 * 60​​,经过语法分析后生成的树

图片

  1. 语义分析,比如​​position = initial + 2 * 60​​ 经过语义分析后

图片

2、着手处理

按照编译原理中讲的过程,要先一个的拆成词,然后将词串成语句,然后一个语句一个语句的处理。

整体的思路:

  • 判断是否已经在不用关注的范围内,例如在 双引号中间的,在多行注释中的,在单行注释后面的
  • 如果已经开始了,就只用关注是否是双引号、多行注释、单行注释的结尾
  • 如果是结尾,就分别处理,
  • 多行注释的删除
  • 单行注释的删除
  • 双引号中间的保留
  1. 在双引号、多行注释、单行注释开始的时候,把前一次的给保存到新文件中

3、代码

# coding=utf-8
foler_path = "./java/test/"

def rewriteContent(dirpath, filename, content):
writefile = open(dirpath + "/" + filename, "w+")
# print content
writefile.write(content)
writefile.close()



def clean_all_note():
for dirpath, dirnanes, filenams in os.walk(foler_path):
for filename in filenams:
print dirpath + "/" + filename
clean_note(dirpath, filename)

#判断是否是双引号,需要排除 '"' 和 \" 的情况,
def is_available_quotes(ch, pre_ch,next_ch):
return ch == "\"" and pre_ch != "\\" and not (pre_ch == "'" and next_ch == "'")

#判断是否是多行注释的开头 即 /*
def is_prefix_multiline_comment(ch, pre_ch):
return ch == "*" and pre_ch == "/"

#判断是否是多行注释的结尾,即 */
def is_suffix_multiline_comment(ch, pre_ch):
return ch == "/" and pre_ch == "*"

#判断是否是单行注释 //
def is_single_line_comment(ch, pre_ch):
return ch == "/" and pre_ch == "/"

# 判断是否是换行
def is_line_feed(ch, pre_ch):
return ch == "\n"


def clean_note(dirpath, filename):
file = open(dirpath + "/" + filename, "r+")
content = file.read()
multiline_ing = False
single_line_ing = False
quotes_ing = False
pre_ch = ""
index = 0
lastPoi = 0
newContent = ""
for ch in content:
if multiline_ing:
if is_suffix_multiline_comment(ch,pre_ch):
# print "m l e:" + pre_ch + ch
lastPoi = index+1
multiline_ing = False
elif single_line_ing:
if is_line_feed(ch,pre_ch) or index == len(content)-1:
# print "s l e:" + content[lastPoi:index-1]
lastPoi = index
single_line_ing = False
elif quotes_ing:
#解决 "\\"
if ch == "\\" and pre_ch == "\\":
ch = ''
if is_available_quotes(ch, pre_ch,content[index+1]):
# print "yinhao e :" + pre_ch + ch
newContent = newContent + content[lastPoi:index]
lastPoi = index
quotes_ing = False
else:
if index == len(content)-1:
# print "e s :" + pre_ch + ch
newContent = newContent + content[lastPoi:index+1]
elif is_available_quotes(ch, pre_ch,content[index+1]):
# print "yinhao s :" + pre_ch + ch
# newContent = newContent + content[lastPoi:index]+"----"
quotes_ing = True
elif is_prefix_multiline_comment(ch, pre_ch):
# print "m l s :" + pre_ch + ch
newContent = newContent + content[lastPoi:index-1]
multiline_ing = True
elif is_single_line_comment(ch, pre_ch):
# print "s l s :" + pre_ch + ch
newContent = newContent + content[lastPoi:index-1]
single_line_ing = True

index = index+1
pre_ch = ch
rewriteContent(dirpath, filename, newContent)





if __name__ == '__main__':
for dirpath, dirnanes, filenams in os.walk(foler_path):
for filename in filenams:
clean_note(dirpath, filename)


责任编辑:武晓燕 来源: arige
相关推荐

2020-09-14 08:56:30

Vue模板

2016-06-02 09:03:48

2009-05-08 11:49:57

2017-02-07 14:40:24

2019-11-15 15:20:27

Golang编译器前端

2021-08-16 07:11:56

Go语言进程

2017-04-11 08:36:09

iOS编译应用

2023-05-08 08:05:42

内核模块Linux

2023-04-27 08:35:20

Webpack 4性能优化

2021-07-05 08:41:49

RedisGEO系统

2009-12-09 15:11:57

PHP图标类JpGra

2022-06-19 23:20:47

区块链气候VCM

2021-04-02 15:18:13

智慧城市物联网

2011-09-10 21:05:04

密码管理浏览器插件

2022-11-09 15:06:43

人工智能

2017-02-22 14:09:31

Javaforeach反编译

2022-06-10 10:39:44

分布式事务模式

2022-10-09 11:46:55

机器人人工智能

2024-01-31 14:50:50

人工智能智慧城市

2022-06-01 21:23:12

ELKLogstash底层
点赞
收藏

51CTO技术栈公众号