2020年入门数据分析选择Python还是SQL?七个常用操作对比!

开发 后端
SQL和Python几乎是当前数据分析师必须要了解的两门语言,它们在处理数据时有什么区别?本文将分别用MySQL和pandas来展示七个在数据分析中常用的操作。

SQL和Python几乎是当前数据分析师必须要了解的两门语言,它们在处理数据时有什么区别?本文将分别用MySQL和pandas来展示七个在数据分析中常用的操作,希望可以帮助掌握其中一种语言的读者快速了解另一种方法!

[[346689]]

在阅读本文前,你可以访问下方网站下载本文使用的示例数据,并导入MySQL与pandas中,一边敲代码一边阅读!

https://raw.githubusercontent.com/pandas-dev/pandas/master/pandas/tests/io/data/csv/tips.csv

一、选择

在SQL中,我们可以使用SELECT语句从表选择数据,结果被存储在一个结果表中,语法如下:

  1. SELECT column_name,column_name 
  2. FROM table_name; 

如果不想显示全部的记录,可以使用TOP或LIMIT来限制行数。因此选择tips表中的部分列可以使用下面的语句

  1. SELECT total_bill, tip, smoker, time 
  2. FROM tips 
  3. LIMIT 5; 

而在pandas中,我们可以通过将列名列表传递给DataFrame来完成列选择

在SQL中,进行选择的同时还可以进行计算,比如添加一列

  1. SELECT *, tip/total_bill as tip_rate 
  2. FROM tips 
  3. LIMIT 5; 

在pandas中使用DataFrame.assign()同样可以完成这个操作

二、查找

1. 单条件查找

在SQL中,WHERE子句用于提取那些满足指定条件的记录,语法如下

  1. SELECT column_name,column_name 
  2. FROM table_name 
  3. WHERE column_name operator value; 

比如查找示例数据中time = dinner的记录

  1. SELECT * 
  2. FROM tips 
  3. WHERE time = 'Dinner' 
  4. LIMIT 5; 

而在pandas中,按照条件进行查找则可以有多种形式,比如可以将含有True/False的Series对象传递给DataFrame,并返回所有带有True的行

2. 多条件查找

在SQL中,进行多条件查找可以使用AND/OR来完成

在pandas中也有类似的操作

3. 查找空值

在pandas检查空值是使用notna()和isna()方法完成的。

  1. frame[frame['col1'].notna()] 

在SQL中可以使用IS NULL和IS NOT NULL完成

  1. SELECT * 
  2. FROM frame 
  3. WHERE col2 IS NULL; 
  4.  
  5. SELECT * 
  6. FROM frame 
  7. WHERE col1 IS NOT NULL; 

三、更新

在SQL中使用UPDATE

  1. UPDATE tips 
  2. SET tiptip = tip*2 
  3. WHERE tip < 2

而在pandas中则有多种方法,比如使用loc函数

  1. tips.loc[tips['tip'] < 2, 'tip'] *= 2 

四、删除

在SQL中使用DELETE

  1. DELETE FROM tips 
  2. WHERE tip > 9; 

在pandas中,我们选择应保留的行,而不是删除它们

  1. tipstips = tips.loc[tips['tip'] <= 9] 

五、分组

在pandas中,使用groupby()方法实现分组。groupby()通常是指一个过程,在该过程中,我们希望将数据集分为几组,应用某些功能(通常是聚合),然后将各组组合在一起。

常见的SQL操作是获取整个数据集中每个组中的记录数。例如,通过对性别进行分组查询

  1. SELECT sex, count(*) 
  2. FROM tips 
  3. GROUP BY sex; 

在pandas中的等价操作为

注意,在上面代码中,我们使用size()而不是count() 这是因为count()将函数应用于每一列,并返回每一列中非空记录的数量!

六、连接

在pandas可以使用join()或merge()进行连接,每种方法都有参数,可让指定要执行的联接类型(LEFT,RIGHT,INNER,FULL)或要联接的列。

现在让我们重新创建两组示例数据,分别用代码来演示不同的连接

  1. df1 = pd.DataFrame({'key': ['A', 'B', 'C', 'D'], 
  2.    ....:                     'value': np.random.randn(4)}) 
  3.    ....:  
  4.  
  5. df2 = pd.DataFrame({'key': ['B', 'D', 'D', 'E'], 
  6.    ....:                     'value': np.random.randn(4)}) 

1. 内连接

内联接使用比较运算符根据每个表共有的列的值匹配两个表中的行,在SQL中实现内连接使用INNER JOIN

  1. SELECT * 
  2. FROM df1 
  3. INNER JOIN df2 
  4.   ON df1.key = df2.key; 

在pandas中可以使用merge()

merge()提供了一些参数,可以将一个DataFrame的列与另一个DataFrame的索引连接在一起👇

2. 左/右外联接

在SQL中实现左/右外连接可以使用LEFT OUTER JOIN和RIGHT OUTER JOIN

  1. SELECT * 
  2. FROM df1 
  3. LEFT OUTER JOIN df2 
  4.   ON df1.key = df2.key; 
  5.    
  6. SELECT * 
  7. FROM df1 
  8. RIGHT OUTER JOIN df2 
  9.   ON df1.key = df2.key; 

在pandas中实现同样可以使用merge()并指定how关键字为left或者right即可

3. 全连接

全连接返回左表和右表中的所有行,无论是否匹配,但并不是所有的数据库都支持,比如mysql就不支持,在SQL中实现全连接可以使用FULL OUTER JOIN

  1. SELECT * 
  2. FROM df1 
  3. FULL OUTER JOIN df2 
  4.   ON df1.key = df2.key; 

在pandas中实现同样可以使用merge()并指定how关键字为outer

七、合并

SQL中UNION操作用于合并两个或多个SELECT语句的结果集,UNION与UNION ALL类似,但是UNION将删除重复的行。示例代码如下

  1. SELECT city, rank 
  2. FROM df1 
  3. UNION ALL 
  4. SELECT city, rank 
  5. FROM df2; 
  6. /* 
  7.          city  rank 
  8.       Chicago     1 
  9. San Francisco     2 
  10. New York City     3 
  11.       Chicago     1 
  12.        Boston     4 
  13.   Los Angeles     5 
  14. */ 

在pandas中可以使用concat()实现UNION ALL

上面是UNION ALL保留重复值,如果希望删除可以使用 drop_duplicates()

以上就是本文的全部内容,可以看到在不同的场景下不同的语言有着不同的特性,如果你想深入学习了解可以进一步查阅官方文档并多加练习!

 

责任编辑:赵宁宁 来源: 早起Python
相关推荐

2021-04-09 23:00:12

SQL数据库Pandas

2020-07-27 05:40:13

Python数据分析开发

2019-06-05 08:53:42

SQLPython集合操作

2017-11-24 14:20:38

2022-06-30 15:12:48

数据分析工具大数据

2020-07-07 12:06:58

大数据数据分析工具

2020-01-14 08:22:44

软件定义的分支SD-branchSD-WAN

2020-05-26 10:56:49

数据分析大数据数据

2020-01-21 21:04:16

大数据据分析数据

2020-03-02 17:11:10

戴尔

2020-02-09 13:26:22

数据分析数据大数据

2020-02-09 17:22:27

5大数据分析预测

2022-03-15 12:27:57

数据分析工具技能

2022-08-11 11:43:01

CISO首席信息安全官

2014-03-12 15:23:20

2021-08-02 13:45:53

UPS电源数据中心

2023-12-19 16:50:37

2022-05-23 11:13:02

Python工具

2017-11-27 16:37:42

Python大数据数据分析

2017-11-07 11:40:36

大数据数据分析文科生
点赞
收藏

51CTO技术栈公众号