Python文本分析:从入门到放弃

开发 后端
前面说了小爱同学已经初步学会了分词和画词云图,但是在这个过程中他还是遇见了一些问题的。其中最主要的两个问题是:正则表达式和同义词处理。

前面说了小爱同学已经初步学会了分词和画词云图,但是在这个过程中他还是遇见了一些问题的。其中最主要的两个问题是:正则表达式和同义词处理。

正则表达式是要把文本中一些不规范的字符去除掉,普通字符串处理函数处理起来很麻烦,正则表达式就很方便,但小爱完全不懂这个。

[[332639]]

同义词处理。当分词结果中出现了“市民”和“居民”二词时,我们肯定知道这其实表达的就是一个意思,我们需要将二者合并成一个词语。

正则表达式虽然不懂,但网上随便学下还是暂时能满足需求的。真正让小爱苦恼的是同义词处理。

任务(Task)

人为判断同义词很简单,但用程序来判断就不简单了。小爱想到了两种方式:制作一个同义词库;计算所有词语的相似度,将相似度高于阈值的词语作为同义词。

  • 同义词库。在网上百度一番,只发现了一个哈工大的同义词库,满心欢喜地点进去一看,发现页面已经不存在了,真是欲哭无泪!小爱心想,要不自己制作一个同义词库?再仔细一思考其中工作量,算了,还是打消念头吧,这种方式行不通。
  • 相似度计算。小爱查询到Python中的synonyms库提供了计算两个词语相似度的方法,结果还较为靠谱,于是就准备采用此种方式了。

行动(Action)

在找了一篇几百字的文章进行测试之后,小爱发现这种方式行得通。于是就正式开始运用于公司的文本数据了。这时,新的问题又出现了。

公司的客户反馈数据有数十上百万条,分词后的词语集合在去除停用词之后也有几万个,小爱的代码在计算相似度的时候卡住了。这个时候小爱才醒悟过来:样本数据分词的词语量少,计算量自然少,但随着词语数量的增加,计算量也是呈指数增长的。

算了,这种方式小爱也放弃了。

小爱继续百度查询,发现了Word2vec库可以通过大量训练文本来计算词语的相似度。但小爱把所有的文本数据进行训练之后发现相似度结果是非常的不靠谱,想必该库所需要的训练样本是非常之大。

于是,这种方式小爱也放弃了。

结果(Result)

小爱在查询文本分析(虽然还只是最简单的词频统计)相关资料时发现,NLP方向远不是一朝一夕就可以有产出的,虽然以前也看过《数学之美》,略微了解一些,但对于志向在于机器学习的小爱来说,这ROI太不值了。

就这样,小爱不打算继续专研文本这一块了,妥妥地验证了一回从入门到放弃之路啊!

责任编辑:未丽燕 来源: 今日头条
相关推荐

2019-07-02 14:17:18

API网关网关流量

2017-03-25 20:30:15

2019-11-06 16:40:31

awkLinux文本分析工具

2017-12-25 11:15:06

JavaArray数组

2021-08-12 07:01:23

FlutterRouter Android

2022-01-17 08:52:32

CPUCPU工具显卡

2021-11-08 07:11:49

决策树数据分类器

2016-08-03 16:01:47

GitLinux开源

2022-03-28 11:00:34

JVMJava对象

2017-04-27 08:54:54

Python文本分析网络

2022-04-19 11:25:31

JVMZGC垃圾收集器

2020-04-10 15:05:09

深度学习人工智能蒸馏

2018-01-26 14:35:16

程序员入门经历

2019-06-23 15:21:42

Google谷歌平板

2021-05-11 11:08:37

电脑病毒软件

2021-08-02 06:49:46

Flutter Router安全

2023-12-26 08:40:06

分类算法数据分析Python

2021-10-25 05:54:59

SSD固态硬盘存储

2022-04-21 08:20:33

CPU换盖CPU

2021-10-15 22:19:15

电脑蓝屏重启
点赞
收藏

51CTO技术栈公众号