再见!不再使用 Pandas 中的 Merge 方法

数据库 其他数据库
为什么我不再在 Pandas 中使用 Merge 方法,同时也非常建议你也应该这样做?在本文中,我们介绍另一种可以替代 Merge 方法的方法,该方法在同样情况下,性能可以提到4到5倍,快来和云朵君一起学习吧!

Pandas 中的merge()方法无疑是数据科学家在其数据科学项目中最常用的方法之一。

该方法源自 SQL 中的表连接思想并扩展到在 Python 环境中连接表,该方法基于一列或多列中的匹配值合并两个 Pandas DataFrame。

如下图所示:

图片

连接表的图解概述

Merge()方法的直观特性使其成为Pandas用户合并数据框的理想选择。

但是,在运行时方面,Pandas 中有一个相对更好的替代方法,甚至已经超过该 merge()方法了。

合并表的方法

方法一:使用merge()

如上所述,在 Pandas 中合并 DataFrame 的传统和最常见的方法是使用该merge()方法。

df = pd.merge(df1, df2, 
how = "left",
left_on = "df1_col_name",
right_on = "df2_col_name")

如上面的代码块所示,该方法接受两个DataFrames, df1和df2。

此外,我们使用 how​ 参数指定我们希望执行的连接类型(在上面的例子中是 left)。

最后,我们用left_on​参数指定要考虑与第一个DataFrame(df1) 的值匹配的列,用right_on参数指定与第二个DataFrame(df2)的值匹配的列。

方法二:使用 join()

Join()​ 方法在目标上与 Pandas 中的 merge() 方法相似,但在实现上有一些区别。

Join()​方法在df2和df1的索引上执行查找。然而,merge()方法主要用于使用列中的条目进行连接。

Join()​方法默认执行的是左键连接。而merge()方法在其默认行为中采用了内联接。

图片

连接索引值的表

下面的代码块演示了该join()方法。

df = df1.join(df2, how = "inner")

如上所述,join()方法执行了一个索引查询来连接两个DataFrame。也就是说,对应于相同索引值的行被合并。

因此,在使用join()​方法时,你应该首先设置你希望执行join的列作为DataFrame的索引,然后再调用join()方法。

df1.set_index("df1_col_name", inplace = True)
df2.set_index("df2_col_name", inplace = True)

df = df1.join(df2, how = "inner")

实验验证

为了评估 Pandas 中 merge()​ 方法的运行时性能,我们将把它与 join() 方法进行比较。

具体来说,我们将创建两个假的DataFrames,并使用 merge() ​和 join() 这两种方法进行连接。

本实验的实现如下。

首先,我们将整数的值设置为(-high, +high)​。我们将比较两种方法在不同大小的DataFrame上的表现,行数为 rows_list​,列数为 n_columns。最后,我们将重复运行每个实验。

high = 10000
rows_list = [(i+1)*1_000_000 for i in range(10)]
n_columns = 5
repeat = 5

该create_df 方法接受一系列参数并返回一个随机数据框。

def create_df(n_rows, n_columns, col_names):

data = np.random.randint(low = -high, high = high, size = (n_rows, n_columns))
return pd.DataFrame(data, columns = col_names)

在下面的代码中,我们测量了merge()​ 方法和  join()​ 方法在同一个DataFrame df1​ 和 df2 上的运行时间。

result = []
for n_rows in rows_list:

sum_time_merge1 = 0
sum_time_merge2 = 0

for _ in range(repeat):

df1 = create_df(n_rows, n_columns, [f"col_{i}" for i in range(n_columns)])
df2 = create_df(n_rows, n_columns, [f"Col_{i}" for i in range(n_columns)])

## Method 1
start = time()
df = pd.merge(df1, df2, how = "left", left_on = "col_0", right_notallow="Col_0")
sum_time_merge1 += (time()-start)

## Method 2
start = time()
df1.set_index("col_0", inplace = True)
df2.set_index("Col_0", inplace = True)
df = df1.join(df2)
sum_time_merge2 += (time()-start)

result.append([df1.shape[0], sum_time_merge1/repeat, sum_time_merge2/repeat])

注意,要使用join()方法,你应该首先将列作为DataFrame的索引。

结果

图片

Join vs Merge 方法的实验结果

蓝色线图描述了merge()​方法的运行时间,黄色线图表示join()方法的运行时间。

我们将行数从 100 万变化到 1000 万,注意到两种方法的运行时间都与行数呈正相关。

然而,与传统的merge()​方法相比,join()方法的运行时间有明显的改善。

随着行数的增加,两种方法的运行时间的差异也在增加。这表明你应该始终使用join()方法来合并DataFrames,特别是在较大的数据集的情况下。

写在最后

最后,在这篇文章中,我们比较了Pandas的merge()​和join()方法在一个假的DataFrame上的性能。

实验结果表明,使用join()​方法在索引列上进行合并,在运行时间上比merge()方法高效——提供了高达4到5倍的性能提升。

责任编辑:武晓燕 来源: 数据STUDIO
相关推荐

2021-01-13 11:13:46

ExcelPandas代码

2009-09-24 13:25:58

Hibernate m

2012-05-17 10:16:00

HibernateJavamerge

2021-02-17 13:20:51

forpandas语言

2020-09-27 11:15:37

可视化PandasPython

2022-09-20 10:50:34

PandasNumPy

2021-08-16 08:12:04

SQLMerge用法

2010-05-24 12:53:38

子命令SVN merg

2021-03-10 13:57:55

Edge微软浏览器

2021-06-08 11:42:12

Pandas数据分析Python

2020-10-29 10:44:59

斗鱼腾讯虎牙

2010-10-14 09:32:52

SQL Server

2019-10-31 10:16:06

数据Python开发

2012-04-05 13:37:10

JavaString

2022-11-04 11:34:15

文件pathlibfileinput

2011-04-02 14:06:46

SQL Server MERGE

2022-08-24 13:39:46

PandasGUIExcel

2018-10-22 20:23:26

JDKJavaOracle

2020-04-27 20:55:42

JavaJava 8编程语言

2021-09-02 10:54:39

Pandas函数数据
点赞
收藏

51CTO技术栈公众号