>  기사  >  백엔드 개발  >  Pandas 데이터 정리의 달인이 되어보세요: 입문부터 숙달까지

Pandas 데이터 정리의 달인이 되어보세요: 입문부터 숙달까지

PHPz
PHPz원래의
2024-01-24 09:29:06853검색

Pandas 데이터 정리의 달인이 되어보세요: 입문부터 숙달까지

초보자부터 숙련자까지: 팬더의 데이터 정리 방법 익히기

소개:
데이터 과학 및 기계 학습 분야에서 데이터 정리는 데이터 분석의 핵심 단계입니다. 데이터를 정리함으로써 데이터 세트의 오류를 수정하고, 누락된 값을 채우고, 이상값을 처리하고, 데이터의 일관성과 정확성을 보장할 수 있습니다. Pandas는 Python에서 가장 일반적으로 사용되는 데이터 분석 도구 중 하나이며 데이터 정리 프로세스를 더욱 간결하고 효율적으로 만드는 일련의 강력한 기능과 방법을 제공합니다. 이 기사에서는 Pandas의 데이터 정리 방법을 단계별로 소개하고 독자가 데이터 정리를 위해 Pandas를 사용하는 방법을 빠르게 익힐 수 있도록 구체적인 코드 예제를 제공합니다.

  1. Pandas 라이브러리 및 데이터 세트 가져오기
    먼저 Pandas 라이브러리를 가져오고 정리할 데이터 세트를 읽어야 합니다. Pandas의 read_csv() 함수를 사용하여 CSV 파일을 읽거나 read_excel() 함수를 사용하여 Excel 파일을 읽을 수 있습니다. 다음은 CSV 파일을 읽는 코드 예제입니다. read_csv()函数读取CSV文件,或者使用read_excel()函数读取Excel文件。以下是读取CSV文件的代码示例:
import pandas as pd

# 读取CSV文件
df = pd.read_csv('data.csv')
  1. 查看数据集概览
    在开始数据清洗之前,我们可以使用一些基本的命令来查看数据集的概览信息。以下是一些常用的命令:
  • df.head():查看数据集的前几行,默认为前5行。
  • df.tail():查看数据集的后几行,默认为后5行。
  • df.info():查看数据集的基本信息,包括每列的数据类型和非空值的数量。
  • df.describe():生成数据集的统计摘要,包括每列的均值、标准差、最小值、最大值等。
  • df.shape:查看数据集的形状,即行数和列数。

这些命令能帮助我们快速了解数据集的结构和内容,为后续的数据清洗做好准备。

  1. 处理缺失值
    在实际的数据集中,经常会遇到一些缺失值。处理缺失值的方法有很多种,以下是几种常见的方法:
  • 删除缺失值:使用dropna()函数删除包含缺失值的行或列。
  • 填充缺失值:使用fillna()函数填充缺失值。可以使用常数填充,如fillna(0)将缺失值填充为0;也可以使用均值或中位数填充,如fillna(df.mean())将缺失值填充为每列的均值。

以下是处理缺失值的代码示例:

# 删除包含缺失值的行
df.dropna(inplace=True)

# 将缺失值填充为0
df.fillna(0, inplace=True)
  1. 处理重复值
    除了缺失值,数据集中还可能存在重复值。处理重复值是数据清洗的重要步骤之一,可以使用drop_duplicates()函数删除重复值。该函数会保留第一个出现的值,将后续重复的值删除。

以下是处理重复值的代码示例:

# 删除重复值
df.drop_duplicates(inplace=True)
  1. 处理异常值
    在数据集中,有时候会存在一些异常值。处理异常值可以通过以下方法进行:
  • 删除异常值:使用布尔索引删除异常值。例如,可以使用df = df[df['column'] 删除某一列中大于100的异常值。
  • 替换异常值:使用replace()函数将异常值替换为合适的值。例如,可以使用df['column'].replace(100, df['column'].mean())将某一列中的值100替换为该列的均值。

以下是处理异常值的代码示例:

# 删除异常值
df = df[df['column'] < 100]

# 将异常值替换为均值
df['column'].replace(100, df['column'].mean(), inplace=True)
  1. 数据类型转换
    有时候,数据集的某些列的数据类型不正确。可以使用astype()函数将数据类型转换为正确的类型。例如,可以使用df['column'] = df['column'].astype(float)将某一列的数据类型转换为浮点型。

以下是数据类型转换的代码示例:

# 将某一列的数据类型转换为浮点型
df['column'] = df['column'].astype(float)
  1. 数据列的重命名
    当数据集中的列名不符合要求时,可以使用rename()函数对列名进行重命名。

以下是重命名数据列的代码示例:

# 对列名进行重命名
df.rename(columns={'old_name': 'new_name'}, inplace=True)
  1. 数据排序
    有时候,我们需要按照某一列的值对数据集进行排序。可以使用sort_values()
  2. # 按照某一列的值对数据集进行升序排序
    df.sort_values('column', ascending=True, inplace=True)
      데이터세트 개요 보기

      데이터 정리를 시작하기 전에 몇 가지 기본 명령을 사용하여 데이터세트의 개요 정보를 볼 수 있습니다. 다음은 일반적으로 사용되는 몇 가지 명령입니다.


      df.head(): 데이터 세트의 처음 몇 행을 봅니다. 기본값은 처음 5개 행입니다. 🎜df.tail(): 데이터 세트의 마지막 몇 행을 봅니다. 기본값은 마지막 5개 행입니다. 🎜🎜df.info(): 각 열의 데이터 유형, null이 아닌 값의 개수 등 데이터 세트의 기본 정보를 봅니다. 🎜🎜df.describe(): 각 열의 평균, 표준 편차, 최소값, 최대값 등을 포함하여 데이터 세트의 통계 요약을 생성합니다. 🎜🎜df.shape: 데이터 세트의 모양, 즉 행과 열의 수를 봅니다. 🎜
    🎜이러한 명령은 데이터 세트의 구조와 내용을 빠르게 이해하고 후속 데이터 정리를 준비하는 데 도움이 될 수 있습니다. 🎜
      🎜결측값 처리🎜실제 데이터 세트에서는 종종 결측값이 발견되는 경우가 있습니다. 누락된 값을 처리하는 방법에는 여러 가지가 있으며, 몇 가지 일반적인 방법은 다음과 같습니다. 🎜🎜
      🎜 누락된 값 삭제: 누락된 값이 포함된 행이나 열을 삭제하려면 dropna() 함수를 사용하세요. 🎜🎜누락된 값 채우기: fillna() 함수를 사용하여 누락된 값을 채웁니다. fillna(0)와 같은 상수 채우기를 사용하여 누락된 값을 0으로 채울 수 있습니다. 또한 fillna(df.mean())과 같은 평균 또는 중앙값 채우기를 사용할 수도 있습니다. 누락된 값을 각 열의 평균으로 채웁니다. 🎜
    🎜다음은 누락된 값을 처리하는 코드 예제입니다. 🎜rrreee
      🎜중복 값 처리🎜 누락된 값 외에도 데이터 세트에 중복 값이 ​​있을 수 있습니다. . 중복 값을 처리하는 것은 데이터 정리의 중요한 단계 중 하나입니다. drop_duplicates() 함수를 사용하여 중복 값을 삭제할 수 있습니다. 이 함수는 처음 나타나는 값을 유지하고 후속 중복 값을 삭제합니다. 🎜🎜🎜다음은 중복 값을 처리하기 위한 코드 예제입니다. 🎜rrreee
        🎜이상값 처리🎜 데이터 세트에는 때로는 일부 이상값이 있을 수 있습니다. 이상값 처리는 다음과 같이 수행할 수 있습니다. 🎜🎜
      🎜이상값 제거: 부울 인덱싱을 사용하여 이상값을 제거합니다. 예를 들어 df = df[df['column'] &lt 100]을 사용하여 열에서 100보다 큰 이상값을 삭제할 수 있습니다. 🎜🎜이상값 바꾸기: replace() 함수를 사용하여 이상값을 적절한 값으로 바꿉니다. 예를 들어 df['column'].replace(100, df['column'].mean())을 사용하여 열의 값 100을 해당 열의 평균으로 바꿀 수 있습니다. 🎜
    🎜다음은 이상값 처리를 위한 코드 예제입니다. 🎜rrreee
      🎜데이터 유형 변환🎜때때로 데이터 세트의 일부 열에 잘못된 데이터 유형이 있습니다. astype() 함수를 사용하여 데이터 유형을 올바른 유형으로 변환할 수 있습니다. 예를 들어 df['column'] = df['column'].astype(float)을 사용하여 열의 데이터 유형을 부동 소수점 유형으로 변환할 수 있습니다. 🎜🎜🎜다음은 데이터 유형 변환에 대한 코드 예제입니다. 🎜rrreee
        🎜데이터 열 이름 바꾸기🎜데이터 세트의 열 이름이 요구 사항을 충족하지 않는 경우 를 사용할 수 있습니다. rename() code> 함수는 열 이름을 변경합니다. 🎜🎜🎜다음은 데이터 열 이름을 바꾸는 코드 예제입니다. 🎜rrreee<ol start="8">🎜데이터 정렬🎜때때로 특정 열의 값에 따라 데이터 세트를 정렬해야 할 때가 있습니다. <code>sort_values() 함수를 사용하여 데이터 세트를 정렬할 수 있습니다. 🎜🎜🎜다음은 데이터 정렬을 위한 코드 예제입니다. 🎜rrreee🎜결론: 🎜이 문서에서는 Pandas의 몇 가지 일반적인 데이터 정리 방법을 소개하고 구체적인 코드 예제를 제공합니다. 이러한 방법을 익히면 독자는 데이터 세트의 누락된 값, 중복된 값 및 이상값을 더 잘 처리하고 데이터 유형 변환, 열 이름 변경 및 데이터 정렬을 수행할 수 있습니다. 이러한 코드 예제를 통해서만 팬더 데이터 정리 방법을 입문부터 숙련까지 마스터하고 실제 데이터 분석 프로젝트에 적용할 수 있습니다. 이 글이 독자들이 데이터 정리를 위해 pandas 라이브러리를 더 잘 이해하고 사용하는 데 도움이 되기를 바랍니다. 🎜

    위 내용은 Pandas 데이터 정리의 달인이 되어보세요: 입문부터 숙달까지의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

    성명:
    본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.