Pythonを使用したタイタニック号生存者のデータ分析と予測

データ取得

アカウントの登録に成功すると、以下に示すように、コンペティション リンクにタイタニック号沈没生存コンペティションのリンクが表示されます。

コンテスト ページに入ると、コンテストと他の人のコードの簡単な紹介が表示されます。ここで [データ] をクリックします。

以下のデータの紹介に注目してください。ここでのデータの紹介は、データの基本的な状況とそれが何を表すかを理解するのに役立ちます。

データを取得したら、コンパイル環境を開き、データ分析を開始する準備をします。この記事では、データ分析に jupyter を使用します。使い慣れたコンパイル環境を使用して、フォローアップ作業を実行します。

データを取得した後、まずコンパイル環境に読み込むためのコードを作成します。コードは次のとおりです:

# 导入pandas
import pandas as pd
# 将训练集数据导入
data = pd.read_csv('train.csv')

データをインポートした後の結果は次のとおりです:

データの予備観察とデータ処理 データ観察とデータ クリーニング 4C 原則

# データを取得したら、データの予備観察とデータ クリーニングを行う必要があります。ここでは、Kaggle のボスによって提案された データ クリーニング 4C 原則 を紹介します。

修正 : 名前が示すように、データの修正とは、データ内の外れ値を修正することです。対処する。たとえば、年齢が 100 というデータがある場合、これは異常な値であるはずです。さまざまなデータの異常値をチェックして、それらが正常で有効であることを確認します。ただし、元のデータからデータを変更する場合は注意が必要です。正確なモデルを構築するための基礎となるのはデータであり、データがモデルの品質を決定するためです。

完成 (補足): 弊社で発見した欠損値や外れ値を補足する必要があります。一部のモデルでは、処理を行わずに欠損値を自動的に処理できるようになります (デシジョン ツリーなど)。この部分では、通常、削除する欠損値の割合が小さい欠損値を選択しますが、割合が比較的大きい欠損値または非常に大きい欠損値については、元のパターンで何らかのパターンを探索することを検討します。それらを埋めるためのデータ。

作成: 特徴エンジニアリングでは、元の特徴を理解し、新しい特徴を抽出するかどうかを決定する必要があります。たとえば、この問題では、年齢のセグメント化を新しい特徴として考えることができます。もちろん、ここでの前提は、問題を深く理解し、抽出した特徴が実際に最終モデルの構築に役立つかどうかを調査することです。そのためには、繰り返し検証し、特徴の抽出について考え、さまざまな問題に対して本当に役立つ機能を見つける必要があります。

変換: 特定のデータ形式を対象とする場合、データ変換の実行も必要になる場合があります。これはもちろん非常に重要で、たとえば、一部の文字列型データは、それを表すために数値形式に変換する必要があります。

このステップでは、pandas の基本関数を呼び出して、データの予備観察を行います。まず info() を呼び出してデータの型と基本的な状況を確認します。コードは次のとおりです:

data.info()

結果は次のとおりです:

# #この関数を呼び出すと、すべてのデータ型と基本条件を確認できます。

ここでマークしたデータに注意する必要があります。

年齢データの数が他のデータよりもはるかに少ないことがわかりました。これを欠損値と呼びます。同時に、Cabin と Embarked にも が欠落していることがわかります。 これらはすべて、私たちの注意とその後の処理を必要とします。

続いて、describe() 関数を呼び出してデータの分布をさらに観察します。この関数は、データの各列の分布と平均を計算するのに役立ちます。コードは次のとおりです:

data.describe()

結果は次のとおりです:

ここでは、

Parch

データの 75% が含まれていることがわかります。は 0 であり、明らかな分布が存在します。不均一な状況には後で対処する必要がある場合があります。 欠損値の処理 (完了)

前のセクションでは、データに特定の欠損条件があることがわかりました。まずそれらを視覚化することで、データの観察をより直感的に行うことができます。 。

ここでは、欠落データを視覚化するために missingno ライブラリを使用します。これは、欠落データを視覚化する場合により直感的です。

使用之前，请确保自己已经安装该库。

使用该库进行可视化的代码如下：

# 在数据中抽样100个单位
data_sample = data.sample(100)
msno.matrix(data_sample)

结果如下：

可以发现，Cabin的缺失值较为明显，Age也存在一些缺失值。

因为数据中每列代表的情况不尽相同，所以我们将针对数据进行不同的处理方法。

我们再通过代码来观察一下缺失的数据情况，代码与结果如下：

missing_data = data.isnull().sum()
missing_data = missing_data [missing_data >0]
missing_data

Embarked的处理

我们首先处理Embarked列，在上边的数据观察中发现其拥有两个缺失值，因为相对于全部的一千条数据来说其量级较小，所以我们在这里直接选择该列缺失的两条数据进行删除处理，代码如下：

# 在data中寻找Embarked的缺失值 找到后在原表中将其行删除
data.dropna(axis=0, how='any',subset=['Embarked'], inplace=True)

dropna 参数介绍：
axis: default 0指行,1为列
how: {‘any’, ‘all’}, default ‘any’指带缺失值的所有行;'all’指清除全是缺失值的
thresh: int,保留含有int个非空值的行
subset: 对特定的列进行缺失值删除处理
inplace: 这个很常见,True表示直接在原数据上更改

Age的处理

在上述观察中，我们发现Age存在一定的缺失情况，接下来我们对其进行处理。

我们由Kaggle中的数据介绍中了解到，其表示乘客的年龄，且缺失值相对来说较多，不能够直接采用删除的方式。

我们首先观察Age的分布情况，绘制年龄的直方图，代码如下：

data.hist(column='Age')

结果如下：

我们注意到，年龄的分布存在一定的偏态，这时候更适合采用中位数进行填充。

注意：偏态分布的大部分值都聚集在变量分布的一侧，中位数可以很好的表示中心趋势。

所以，我们对年龄的缺失值进行中位数的填充。代码如下:

data['Age'].fillna(data['Age'].median(), inplace=True)

至此，我们对于年龄的缺失值处理完毕。

Cabin的处理

我们首先看一下Cabin的数据解释：Cabin number（机舱号码）

对于该特征来说，仿佛对于最终的数据帮助不大。即使其对于最后的数据是非常重要的，由于其缺失值过多且不容易探寻其中的规律，我们还是选择对其做删除的处理。

代码如下：

# 这里我直接删除了该列
del data['Cabin']

至此，所有数据的缺失值处理完毕。

异常值的检测与处理（Correcting）

在本例中，我们能够进行检测并处理的主要是Age特征，因为我们预先知道其大概的范围。在这里我们绘制箱线图观察其数据的异常情况决定是否需要进行处理，代码如下：

data['Age'].plot.box()

结果如下：

在这里，我们可以看到该数据的最高点在80，符合我们对于数据的预先认知，遂不进行处理。

特征构建（Create）

在这部分中，要求我们对不同的特征有一定的了解以及认识，在这里我列出所有的特征含义。

特征名称含义survival是否存活，1表示存活，0表示没有pclass表示票的种类，分别为1，2，3等sex性别Age年龄sibsp在泰坦尼克号上的兄弟姐妹/配偶的数量parch在泰坦尼克号上的父母/子女人数ticket票号fare乘客票价cabin机舱号embarked上岸港口 ，C = Cherbourg, Q = Queenstown, S = Southampton

在这里，我们提取两个特征，分别是乘客家庭规模，是否独自一人，并对票价以及年龄进行分段构造两个新的特征。

注意：针对不同的项目采取的特征提取工作并不相同，因为这需要根据具体的业务进行分析并提取。

我们首先针对家庭规模以及是否独自一人创建新的两个特征，代码如下：

data['FamilySize'] = data['SibSp'] + data['Parch'] + 1

data['IsAlone'] = 1 
data['IsAlone'].loc[data['FamilySize'] > 1] = 0

然后，我们对年龄和票价进行分段，代码如下：

data['FareBin'] = pd.qcut(data['Fare'], 4)
data['AgeBin'] = pd.cut(data['Age'].astype(int), 5)

这里简单介绍一下上述两个函数的区别与作用
qcut：根据传入的数值进行等频分箱，即每个箱子中含有的数的数量是相同的。
cut：根据传入的数值进行等距离分箱，即每个箱子的间距都是相同的。

特别的，在本节中特征工程的过程要根据实际业务进行不同的特征提取，这个过程需要我们对业务有足够的理解程度。几个好的特征对后续的模型精确程度有很大的积极影响。

数据格式转换（Convert）

某些特定的格式在很多模型中其实是不适用的，在本例中经过上述处理后的数据如下所示：

图中的性别等内容都为字符类型，这显然在模型中存在一定的不兼容情况，这就需要我们进行一定程度的格式转换。

在本部分中，我们要处理的有以下几个部分：

PassengerId：用户id的部分对后面的预测仿佛用处不大，我们对其进行删除。Name：这里的名字中有MR.MISS等信息，这可能对后续的模型有帮助，我们对其进行处理保留。Sex：需要进行编码使用，因为它是字符串类型。Ticket：仿佛用处不大，这里我们选择删除。Embarked：需要进行编码使用，因为它是字符串类型。FareBin：需要进行编码使用，因为它是一个范围。AgeBin：需要进行编码使用，因为它是一个范围。

我们首先对需要删除的两列进行删除的操作，代码如下：

del data['PassengerId']
del data['Ticket']

然后我们对Name进行处理，将其中的身份信息提取出来，代码如下：

data['Title'] = data['Name'].str.split(", ", expand=True)[1].str.split(".", expand=True)[0]

结果如下：

最后，我们对需要编码的数据进行编码：

from sklearn.preprocessing import OneHotEncoder, LabelEncoder
label = LabelEncoder()

data['Sex_Code'] = label.fit_transform(data['Sex'])
data['Embarked_Code'] = label.fit_transform(data['Embarked'])
data['Title_Code'] = label.fit_transform(data['Title'])
data['AgeBin_Code'] = label.fit_transform(data['AgeBin'])
data['FareBin_Code'] = label.fit_transform(data['FareBin'])

编码后的结果如下：

至此，数据格式转换已经完毕。

模型构建与评价

在本节中，我们将基于上述数据进行模型的构建，并且通过不同的评价指标进行构建。

模型构建

在这里我将会使用基础的分类模型进行模型的构建，并挑选出初步表现最好的模型进行参数调节。代码如下：

# 处理不需要的数据列
data_x = data.copy()
del data_x['Survived']
del data_x['Name']
del data_x['Sex']
del data_x['FareBin']
del data_x['AgeBin']
del data_x['Title']
del data_x['Embarked']
# 构建y
data_y = data['Survived']
# 导入包
from sklearn import svm, tree, linear_model, neighbors, naive_bayes, ensemble, discriminant_analysis, gaussian_process
from sklearn.model_selection import cross_val_score
# 定义常用的几种分类模型
MLA = {
    #随机森林
    '随机森林':ensemble.RandomForestClassifier(),
    #逻辑回归
    '逻辑回归':linear_model.LogisticRegressionCV(max_iter=3000),
    #SVM
    'SVM':svm.SVC(probability=True),
    #树模型
    '树模型':tree.DecisionTreeClassifier(),
    }
# 进行5折交叉验证并选择f1作为评价指标
for model_name in MLA:
    scores = cross_val_score(MLA[model_name], X=data_x, y=data_y, verbose=0, cv = 5, scoring='f1')
    print(f'{model_name}:',scores.mean())

结果如下：

我们可以看到，目前随机森林的效果最好，所以我们选择随机森林进行参数调节。

参数调节

在这里我们选择使用网格调参的方式进行参数调节，代码如下：

from sklearn.model_selection import GridSearchCV

n_estimators = [3,5,10,15,20,40, 55]
max_depth = [10,100,1000]

parameters = { 'n_estimators': n_estimators, 'max_depth': max_depth}

model = ensemble.RandomForestClassifier()
clf = GridSearchCV(model, parameters, cv=5)
clf = clf.fit(data_x, data_y)
clf.best_estimator_

结果如下：

在这里，我们选择了几个简单的参数进行调节，可以根据自己的实际情况对不同的参数进行调节。我们再进行一次交叉验证求平均值看一下效果，结果如下：

可以看到与刚才的效果相比有一些提升。

以上がPythonを使用したタイタニック号生存者のデータ分析と予測の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。