DataFrame 数据合并实现(merge,join,concat)

作者:Python之简 时间:2022-03-28 04:24:02 

merge

merge 函数通过一个或多个键将数据集的行连接起来。
场景:针对同一个主键存在的两张包含不同特征的表,通过主键的链接,将两张表进行合并。合并之后,两张表的行数不增加,列数是两张表的列数之和。


def merge(left, right, how='inner', on=None, left_on=None, right_on=None,
    left_index=False, right_index=False, sort=False,
    suffixes=('_x', '_y'), copy=True, indicator=False,
    validate=None):

参数描述
how数据融合的方法,从在不重合的键,方式(inner、outer、left、right)
on用来对齐的列名,一定要保证左表和右表存在相同的列名。
left_on左表对齐的列,可以是列名。也可以是DataFrame同长度的arrays
right_on右表对齐的列,可以是列名。
left_index将左表的index用作连接键
right_index将右表的index用作连接键
suffixes左右对象中存在重名列,结果区分的方式,后缀名。
copy默认:True。将数据复制到数据结构中,设置为False提高性能。

特性示例(1)

默认:以重叠的列名当作连接键


df1 = pd.DataFrame({'key': ['one', 'two', 'two'],
         'data1': np.arange(3)})
df2 = pd.DataFrame({'key': ['one', 'three', 'three'],
         'data2': np.arange(3)})
df3 = pd.merge(df1, df2)
print(df1)
print(df2)
print(df3)

 key data1
0 one   0
1 two   1
2 two   2
  key data2
0  one   0
1 three   1
2 three   2
 key data1 data2
0 one   0   0

特性示例(2)

默认:做inner连接,取key的交集
连接方式还有left right outer


df1 = pd.DataFrame({'key': ['one', 'two', 'two'],
         'data1': np.arange(3)})
df2 = pd.DataFrame({'key': ['one', 'three', 'three'],
         'data2': np.arange(3)})
df3 = pd.merge(df1, df2)
df4 = pd.merge(df1, df2, how='left')
print(df3)
print(df4)

 key data1 data2
0 one   0   0
 key data1 data2
0 one   0  0.0
1 two   1  NaN
2 two   2  NaN

特性示例(3)

多键连接时将连接键做成列表传入。
on默认是两者同时存在的列


df1 = pd.DataFrame({'key': ['one', 'two', 'two'],
         'value': ['a', 'b', 'c'],
         'data1': np.arange(3)})
df2 = pd.DataFrame({'key': ['one', 'two', 'three'],
         'value': ['a', 'c', 'c'],
         'data2': np.arange(3)})
df5 = pd.merge(df1, df2)
df6 = pd.merge(df1, df2, on=['key', 'value'], how='outer')
print(df5)
print(df6)

 key value data1 data2
0 one   a   0   0
1 two   c   2   1
  key value data1 data2
0  one   a  0.0  0.0
1  two   b  1.0  NaN
2  two   c  2.0  1.0
3 three   c  NaN  2.0

特性示例(4)

两个对象的列名不同,需要分别制定。


df7 = pd.merge(df1, df2, left_on=['key1','data1'], right_on=['key2','data2'], how='outer')
print(df7)

key1 value_x data1  key2 value_y data2
0 one    a  0.0  one    a  0.0
1 two    b  1.0  two    c  1.0
2 two    c  2.0  NaN   NaN  NaN
3 NaN   NaN  NaN three    c  2.0

join

join方法将两个DataFrame中不同的列索引合并成为一个DataFrame
参数的意义与merge基本相同,只是join方法默认左外连接how=left


def join(self, other, on=None, how='left', lsuffix='', rsuffix='',
    sort=False):

示例


df1 = pd.DataFrame({'A': ['A0', 'A1', 'A1'],
         'B': ['B0', 'B1', 'B2']},
         index=['K0', 'K1', 'K2'])
df2 = pd.DataFrame({'C': ['C1', 'C2', 'C3'],
         'D': ['D0', 'D1', 'D2']},
         index=['K0', 'K1', 'K3'])
df3 = df1.join(df2)
df4 = df1.join(df2, how='outer')
df5 = df1.join(df2, how='inner')
print(df3)
print(df4)
print(df5)

  A  B  C  D
K0 A0 B0  C1  D0
K1 A1 B1  C2  D1
K2 A1 B2 NaN NaN
  A  B  C  D
K0  A0  B0  C1  D0
K1  A1  B1  C2  D1
K2  A1  B2 NaN NaN
K3 NaN NaN  C3  D2
  A  B  C  D
K0 A0 B0 C1 D0
K1 A1 B1 C2 D1

concat

制定按某个轴进行连接(可横向可纵向),也可以指定连接方法。


def concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
     keys=None, levels=None, names=None, verify_integrity=False,
     sort=None, copy=True):

属性描述
objs合并的对象集合。可以是Series、DataFrame
axis合并方法。默认0,表示纵向,1横向
join默认outer并集,inner交集。只有这两种
join_axes按哪些对象的索引保存
ignore_index默认Fasle忽略。是否忽略原index
keys为原始DataFrame添加一个键,默认无

示例(1)


s1 = pd.Series(['a', 'b'])
s2 = pd.Series(['c', 'd'])
s3 = pd.concat([s1, s2])
s4 = pd.concat([s1, s2], ignore_index=True)
print(s3)
print(s4)

0  a
1  b
dtype: object
0  c
1  d
dtype: object
0  a
1  b
0  c
1  d
dtype: object
0  a
1  b
2  c
3  d
dtype: object

示例(2)


df1 = pd.DataFrame([['a', 1], ['b', 2]], columns=['A', 0])
df2 = pd.DataFrame([['a', 1], ['b', 2]], columns=['B', 0])
df3 = pd.concat([df1, df2], join='inner')
print(df3)

 0
0 1
1 2
0 1
1 2

示例(3)


df1 = pd.DataFrame([['a', 1], ['b', 2]], columns=['A', 0])
df2 = pd.DataFrame([['a', 1], ['b', 2]], columns=['B', 0])
df3 = pd.concat([df1, df2], axis=1, join_axes=[df1.index])
print(df3)

 A 0 B 0
0 a 1 a 1
1 b 2 b 2

append

横向和纵向同时扩充,不考虑columns和index


df1 = pd.DataFrame({'A': ['A0', 'A1', 'A1'],
         'B': ['B0', 'B1', 'B2']},
         index=['K0', 'K1', 'K2'])
s2 = pd.Series(['X0','X1'], index=['A','B'])
result = df1.append(s2, ignore_index=True)
print(result)

  A  B
K0 A0 B0
K1 A1 B1
K2 A1 B2
 A  B
0 A0 B0
1 A1 B1
2 A1 B2
3 X0 X1

汇总

  • concat:可以沿一条轴将多个对象连接到一起

  • merge:可以根据一个或多个键将不同的DataFrame中的行连接起来。

  • join:inner是交集,outer是并集。

来源:https://blog.csdn.net/qq_1290259791/article/details/83247048

标签:DataFrame,数据合并
0
投稿

猜你喜欢

  • 利用Python爬虫给孩子起个好名字

    2022-04-25 23:40:29
  • 深入研究WINDOW.EVENT对象

    2012-04-26 16:31:58
  • eWebEditor不支持IE8/IE7的解决方法

    2010-02-28 10:27:00
  • 对python使用http、https代理的实例讲解

    2022-03-13 00:03:08
  • iPhone应用设计趋势[译]

    2009-11-27 19:52:00
  • python [::-1] [::-1,::-1]的具体使用

    2021-08-31 14:24:38
  • 用pandas按列合并两个文件的实例

    2022-05-31 22:21:04
  • 使用python开发vim插件及心得分享

    2023-11-22 11:30:32
  • PHP的PDO预定义常量讲解

    2023-06-09 13:35:54
  • Gradio机器学习模型快速部署工具应用分享前篇

    2023-07-23 12:10:45
  • 用 SA FileUp 上传多文件

    2008-07-04 13:44:00
  • MySQL查询不含周末的五天前的日期

    2008-11-11 12:28:00
  • Linux下编译安装MySQL-Python教程

    2021-05-03 05:05:40
  • pyqt5打包成exe可执行文件的方法

    2022-02-09 11:25:57
  • 详解python3 GUI刷屏器(附源码)

    2022-02-02 12:34:15
  • SQL临时表递归查询子信息并返回记录的代码

    2012-08-21 11:06:19
  • 10点优化sql数据库技巧

    2008-06-09 15:00:00
  • python把一个字符串切开的实例方法

    2022-07-10 21:52:17
  • Python抓取手机号归属地信息示例代码

    2023-03-02 21:24:59
  • 关于浏览器的一些观点

    2008-08-06 12:48:00
  • asp之家 网络编程 m.aspxhome.com