快速比较多种机器学习模型实例

本文插图
介绍
当从事机器学习项目时，所有数据科学家都必须面对的一个问题是：哪种机器学习模型架构最适合我的数据呢?
不幸的是，对于哪种模型最好，还没有明确的答案。当面对这种不确定性的时候，常用的方法是:实验!
在本文中，我将向您展示如何快速测试数据集上的多个模型，以找到可能提供最佳性能的机器学习模型，从而使您能够将精力集中在模型的微调和优化上。
机器学习数据集
在开始实验之前，我们需要一个数据集。我将假设我们的问题是有监督的二元分类任务。让我们从sklearn加载乳腺癌数据集开始。
from sklearn.datasets import load_breast_cancer X, y = data = http://news.hoteastday.com/a/load_breast_cancer(return_X_y=True)接下来，我们需要将数据拆分为训练集和测试集。拆分比例为75/25 。
from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=8675309)Python编码
我们将在此数据集上快速测试6种不同模型的拟合度。

逻辑回归
随机森林
K最近邻居
支持向量机
高斯朴素贝叶斯
XGBoost

为了更准确地表示每个模型的拟合度，实际上是需要调整默认参数的，但是，本文出于演示目的，我将使用每个模型的默认参数，这样可以使总体思路更加清晰。
from sklearn.linear_model import LogisticRegression from sklearn.neighbors import KNeighborsClassifier from sklearn.svm import SVC from sklearn.ensemble import RandomForestClassifier from sklearn.naive_bayes import GaussianNB from xgboost import XGBClassifier from sklearn import model_selection from sklearn.utils import class_weight from sklearn.metrics import classification_report from sklearn.metrics import confusion_matrix import numpy as np import pandas as pd def run_exps(X_train: pd.DataFrame , y_train: pd.DataFrame, X_test: pd.DataFrame, y_test: pd.DataFrame) -> pd.DataFrame: ''' Lightweight script to test many models and find winners :param X_train: training split :param y_train: training target vector :param X_test: test split :param y_test: test target vector :return: DataFrame of predictions ''' dfs = [] models = [ ('LogReg', LogisticRegression()), ('RF', RandomForestClassifier()), ('KNN', KNeighborsClassifier()), ('SVM', SVC()), ('GNB', GaussianNB()), ('XGB', XGBClassifier()) ] results = [] names = [] scoring = ['accuracy', 'precision_weighted', 'recall_weighted', 'f1_weighted', 'roc_auc'] target_names = ['malignant', 'benign'] for name, model in models: kfold = model_selection.KFold(n_splits=5, shuffle=True, random_state=90210) cv_results = model_selection.cross_validate(model, X_train, y_train, cv=kfold, scoring=scoring) clf = model.fit(X_train, y_train) y_pred = clf.predict(X_test) print(name) print(classification_report(y_test, y_pred, target_names=target_names)) results.append(cv_results) names.append(name) this_df = pd.DataFrame(cv_results) this_df['model'] = name dfs.append(this_df) final = pd.concat(dfs, ignore_index=True) return final final=run_exps(X_train,y_train, X_test,y_test ) final在上面的Python代码中有很多东西需要解释。首先，我们创建一个变量dfs ，该变量用来保存通过对训练集上应用5-fold交叉验证创建的数据集。