• 技术文章 >后端开发 >Python教程

    1%的人知道的pandas骚操作,传授给你

    coldplay.xixicoldplay.xixi2020-10-09 16:55:11转载146

    python教程栏目今天介绍pandas的操作。

    pandas有一种功能非常强大的方法,它就是accessor,可以将它理解为一种属性接口,通过它可以获得额外的方法。其实这样说还是很笼统,下面我们通过代码和实例来理解一下。

    >>> pd.Series._accessors
    {'cat', 'str', 'dt'}复制代码

    对于Series数据结构使用_accessors方法,我们得到了3个对象:cat,str,dt

    下面我们依次看一下这三个对象是如何使用的。

    str对象的使用

    Series数据类型:str字符串

    # 定义一个Series序列
    >>> addr = pd.Series([
    ...     'Washington, D.C. 20003',
    ...     'Brooklyn, NY 11211-1755',
    ...     'Omaha, NE 68154',
    ...     'Pittsburgh, PA 15211'
    ... ]) 
    
    >>> addr.str.upper()
    0     WASHINGTON, D.C. 20003
    1    BROOKLYN, NY 11211-1755
    2            OMAHA, NE 68154
    3       PITTSBURGH, PA 15211
    dtype: object
    
    >>> addr.str.count(r'\d') 
    0    5
    1    9
    2    5
    3    5
    dtype: int64复制代码

    关于以上str对象的2个方法说明:

    其实不难发现,该用法的使用与Python中字符串的操作很相似。没错,在pandas中你一样可以这样简单的操作,而不同的是你操作的是一整列的字符串数据。仍然基于以上数据集,再看它的另一个操作:

    >>> regex = (r'(?P<city>[A-Za-z ]+), '      # 一个或更多字母
    ...          r'(?P<state>[A-Z]{2}) '        # 两个大写字母
    ...          r'(?P<zip>\d{5}(?:-\d{4})?)')  # 可选的4个延伸数字
    ...
    >>> addr.str.replace('.', '').str.extract(regex)
             city state         zip
    0  Washington    DC       20003
    1    Brooklyn    NY  11211-1755
    2       Omaha    NE       68154
    3  Pittsburgh    PA       15211复制代码

    关于以上str对象的2个方法说明:

    这个用法就有点复杂了,因为很明显看到,这是一个链式的用法。通过replace将 " . " 替换为"",即为空,紧接着又使用了3个正则表达式(分别对应city,state,zip)通过extract对数据进行了提取,并由原来的Series数据结构变为了DataFrame数据结构。

    当然,除了以上用法外,常用的属性和方法还有.rstrip,.contains,split等,我们通过下面代码查看一下str属性的完整列表:

    >>> [i for i in dir(pd.Series.str) if not i.startswith('_')]
    ['capitalize',
     'cat',
     'center',
     'contains',
     'count',
     'decode',
     'encode',
     'endswith',
     'extract',
     'extractall',
     'find',
     'findall',
     'get',
     'get_dummies',
     'index',
     'isalnum',
     'isalpha',
     'isdecimal',
     'isdigit',
     'islower',
     'isnumeric',
     'isspace',
     'istitle',
     'isupper',
     'join',
     'len',
     'ljust',
     'lower',
     'lstrip',
     'match',
     'normalize',
     'pad',
     'partition',
     'repeat',
     'replace',
     'rfind',
     'rindex',
     'rjust',
     'rpartition',
     'rsplit',
     'rstrip',
     'slice',
     'slice_replace',
     'split',
     'startswith',
     'strip',
     'swapcase',
     'title',
     'translate',
     'upper',
     'wrap',
     'zfill']复制代码

    属性有很多,对于具体的用法,如果感兴趣可以自己进行摸索练习。

    dt对象的使用

    Series数据类型:datetime

    因为数据需要datetime类型,所以下面使用pandas的date_range()生成了一组日期datetime演示如何进行dt对象操作。

    >>> daterng = pd.Series(pd.date_range('2017', periods=9, freq='Q'))
    >>> daterng
    0   2017-03-31
    1   2017-06-30
    2   2017-09-30
    3   2017-12-31
    4   2018-03-31
    5   2018-06-30
    6   2018-09-30
    7   2018-12-31
    8   2019-03-31
    dtype: datetime64[ns]
    
    >>>  daterng.dt.day_name()
    0      Friday
    1      Friday
    2    Saturday
    3      Sunday
    4    Saturday
    5    Saturday
    6      Sunday
    7      Monday
    8      Sunday
    dtype: object
    
    >>> # 查看下半年
    >>> daterng[daterng.dt.quarter > 2]
    2   2017-09-30
    3   2017-12-31
    6   2018-09-30
    7   2018-12-31
    dtype: datetime64[ns]
    
    >>> daterng[daterng.dt.is_year_end]
    3   2017-12-31
    7   2018-12-31
    dtype: datetime64[ns]复制代码

    以上关于dt的3种方法说明:

    其它方法也都是基于datetime的一些变换,并通过变换来查看具体微观或者宏观日期。

    cat对象的使用

    Series数据类型:Category

    在说cat对象的使用前,先说一下Category这个数据类型,它的作用很强大。虽然我们没有经常性的在内存中运行上g的数据,但是我们也总会遇到执行几行代码会等待很久的情况。使用Category数据的一个好处就是:可以很好的节省在时间和空间的消耗。下面我们通过几个实例来学习一下。

    >>> colors = pd.Series([
    ...     'periwinkle',
    ...     'mint green',
    ...     'burnt orange',
    ...     'periwinkle',
    ...     'burnt orange',
    ...     'rose',
    ...     'rose',
    ...     'mint green',
    ...     'rose',
    ...     'navy'
    ... ])
    ...
    >>> import sys
    >>> colors.apply(sys.getsizeof)
    0    59
    1    59
    2    61
    3    59
    4    61
    5    53
    6    53
    7    59
    8    53
    9    53
    dtype: int64复制代码

    上面我们通过使用sys.getsizeof来显示内存占用的情况,数字代表字节数。
    还有另一种计算内容占用的方法:memory_usage(),后面会使用。

    现在我们将上面colors的不重复值映射为一组整数,然后再看一下占用的内存。

    >>> mapper = {v: k for k, v in enumerate(colors.unique())}
    >>> mapper
    {'periwinkle': 0, 'mint green': 1, 'burnt orange': 2, 'rose': 3, 'navy': 4}
    
    >>> as_int = colors.map(mapper)
    >>> as_int
    0    0
    1    1
    2    2
    3    0
    4    2
    5    3
    6    3
    7    1
    8    3
    9    4
    dtype: int64
    
    >>> as_int.apply(sys.getsizeof)
    0    24
    1    28
    2    28
    3    24
    4    28
    5    28
    6    28
    7    28
    8    28
    9    28
    dtype: int64复制代码

    注:对于以上的整数值映射也可以使用更简单的pd.factorize()方法代替。

    我们发现上面所占用的内存是使用object类型时的一半。其实,这种情况就类似于Category data类型内部的原理。

    内存占用区别:Categorical所占用的内存与Categorical分类的数量和数据的长度成正比,相反,object所占用的内存则是一个常数乘以数据的长度。

    下面是object内存使用和category内存使用的情况对比。

    >>> colors.memory_usage(index=False, deep=True)
    650
    >>> colors.astype('category').memory_usage(index=False, deep=True)
    495复制代码

    上面结果是使用object和Category两种情况下内存的占用情况。我们发现效果并没有我们想象中的那么好。但是注意Category内存是成比例的,如果数据集的数据量很大,但不重复分类(unique)值很少的情况下,那么Category的内存占用可以节省达到10倍以上,比如下面数据量增大的情况:

    >>> manycolors = colors.repeat(10)
    >>> len(manycolors) / manycolors.nunique() 
    20.0
    
    >>> manycolors.memory_usage(index=False, deep=True)
    6500
    >>> manycolors.astype('category').memory_usage(index=False, deep=True)
    585复制代码

    可以看到,在数据量增加10倍以后,使用Category所占内容节省了10倍以上。

    除了占用内存节省外,另一个额外的好处是计算效率有了很大的提升。因为对于Category类型的Series,str字符的操作发生在.cat.categories的非重复值上,而并非原Series上的所有元素上。也就是说对于每个非重复值都只做一次操作,然后再向与非重复值同类的值映射过去。

    对于Category的数据类型,可以使用accessor的cat对象,以及相应的属性和方法来操作Category数据。

    >>> ccolors = colors.astype('category')
    >>> ccolors.cat.categories
    Index(['burnt orange', 'mint green', 'navy', 'periwinkle', 'rose'], dtype='object')复制代码

    实际上,对于开始的整数类型映射,我们可以先通过reorder_categories进行重新排序,然后再使用cat.codes来实现对整数的映射,来达到同样的效果。

    >>> ccolors.cat.reorder_categories(mapper).cat.codes
    0    0
    1    1
    2    2
    3    0
    4    2
    5    3
    6    3
    7    1
    8    3
    9    4
    dtype: int8复制代码

    dtype类型是Numpy的int8(-127~128)。可以看出以上只需要一个单字节就可以在内存中包含所有的值。我们开始的做法默认使用了int64类型,然而通过pandas的使用可以很智能的将Category数据类型变为最小的类型。

    让我们来看一下cat还有什么其它的属性和方法可以使用。下面cat的这些属性基本都是关于查看和操作Category数据类型的。

    >>> [i for i in dir(ccolors.cat) if not i.startswith('_')]
    ['add_categories',
     'as_ordered',
     'as_unordered',
     'categories',
     'codes',
     'ordered',
     'remove_categories',
     'remove_unused_categories',
     'rename_categories',
     'reorder_categories',
     'set_categories']复制代码

    但是Category数据的使用不是很灵活。例如,插入一个之前没有的值,首先需要将这个值添加到.categories的容器中,然后再添加值。

    >>> ccolors.iloc[5] = 'a new color'
    # ...
    ValueError: Cannot setitem on a Categorical with a new category,
    set the categories first
    
    >>> ccolors = ccolors.cat.add_categories(['a new color'])
    >>> ccolors.iloc[5] = 'a new color'  
    复制代码

    如果你想设置值或重塑数据,而非进行新的运算操作,那么Category类型不是那么有用。

    相关免费学习推荐:python教程(视频)

    以上就是1%的人知道的pandas骚操作,传授给你的详细内容,更多请关注php中文网其它相关文章!

    本文转载于:juejin,如有侵犯,请联系a@php.cn删除
    专题推荐:pandas
    上一篇:总结用Python 操作 PDF 的几种方法 下一篇:python print用法是什么
    第13期线上培训班

    相关文章推荐

    • pandas妙招之 DataFrame基础运算以及空值填充• pandas技巧之 详解DataFrame中的apply与applymap方法• pandas技巧之 DataFrame中的排序与汇总方法• Pandas 最详细教程

    全部评论我要评论

  • 取消发布评论发送
  • 1/1

    PHP中文网