说明：这是第一次参加比赛，成绩不理想，高手勿喷。。。

比赛链接：点这里

一、赛题解读

1、任务

2、数据

3、评分标准

4、解决任务方法

通过分析数据标签可以知道这是一个不平衡样本的分类问题，对于这类问题，可以从以下方法对任务进行处理：
（1）建立分类模型，处理不平衡数据，然后分类
（2）将分类问题转为异常值检测问题

二、代码详解

1、数据处理

1.1 数据探索

1.1.1 数据标签的分析

(1)导入相关的包以及读取数据

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import warnings  
warnings.filterwarnings('ignore')  #忽略警告
%matplotlib inline
pd.set_option('display.max_columns',None)  #显示所有特征
import time,datetimetest_df=pd.read_csv(r'C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\test.csv')
train_df=pd.read_csv(r'C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\train.csv')
target_df=pd.read_csv(r"C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\train_target.csv")
y=target_df['target']
submit_id=test_df['id']

(2)查看标签数据

labels=target_df['target'].value_counts()
print(labels)
print("标签0所占样本的比例：",target_df.loc[target_df['target']==0].count()/len(target_df))
print('标签1所占样本的比例：',target_df.loc[target_df['target']==1].count()/len(target_df))
labels.plot.bar()

显然，这是一个极度不平衡的数据分类，对于这类的数据，处理方法可以参考第一种
第二种等解决办法。

1.1.2 单特征分析

1、删除Id、证件号分析

(1)合并数据
请注意：合并数据目的是为了查看数据分布和做特征工程，当做数据处理的时候需要将训练集和测试集分开处理。

all_data=pd.concat([train_df,test_df])
all_data.head()

(2)查看数据基本信息

all_data.info()

从结果可知，总样本有155590，有103列，除去id唯一值属性，总共有102个特征，其中放float64有3个，int64有100个（包括id）

（3）删除id、证件号（certId）进行可视化，并将证件号拆分

all_data.drop('id',axis=1,inplace=True)
sns.distplot(all_data['certId'])

搜集资料可知，可认为是身份证前六位的数字，代表的是地址码，表示常住户口所在县的行政区划代码,第一二位表示所在省，三四位表示所在市(1-20,51-70表示省直辖市；21-50表示地区或者自治州)，五六位表示所在县（1-18表示市直辖区或者地区，21-80表示县，81-99表示省直辖县级市）
所以，将证件号拆分为3个部分，并删除证件号

all_data['certId_province']=all_data['certId'].apply(lambda x:str(x)[0:2])
all_data['certId_city']=all_data['certId'].apply(lambda x:str(x)[2:4])
all_data['certId_county']=all_data['certId'].apply(lambda x:str(x)[4:6])all_data.drop('certId',axis=1,inplace=True)

2、离散变量：贷款类型分析

all_data['loanProduct'].value_counts().plot.bar()
plt.xlabel('Type of loanProduct')
plt.ylabel('Count')

3、连续变量：年龄（age)的分析

sns.distplot(all_data['age'])

从图中看出，age属性不服从正态分布，出现严重的长尾现象，需要对其进行处理

三、所有代码

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import warnings  
import seaborn as sns
warnings.filterwarnings('ignore')  #忽略警告
%matplotlib inline
pd.set_option('display.max_columns',None)  #显示所有特征
import time,datetimetest_df=pd.read_csv(r'C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\test.csv')
train_df=pd.read_csv(r'C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\train.csv')
target_df=pd.read_csv(r"C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\data\train_target.csv")
y=target_df['target']
submit_id=test_df['id']all_data=pd.concat([train_df,test_df])
all_data.head()all_data.drop('id',axis=1,inplace=True)all_data['certId_province']=all_data['certId'].apply(lambda x:str(x)[0:2])
all_data['certId_city']=all_data['certId'].apply(lambda x:str(x)[2:4])
all_data['certId_county']=all_data['certId'].apply(lambda x:str(x)[4:6])all_data.drop('certId',axis=1,inplace=True)bins=[17,30,40,50,120]
labels=['青年','中年','壮年','老年']
all_data['age_cut']=pd.cut(all_data['age'],bins=bins,labels=labels)
all_data.drop('age',axis=1,inplace=True)all_data['dist_province']=all_data['dist'].apply(lambda x:str(x)[0:2])
all_data['dist_city']=all_data['dist'].apply(lambda x:str(x)[2:4])
all_data['dist_county']=all_data['dist'].apply(lambda x:str(x)[4:6])
all_data.drop('dist',axis=1,inplace=True)all_data.loc[all_data['edu']==-999,'edu']=80
all_data.loc[all_data['edu']==47,'edu']=50bins=[0,8,20,100]
labels=['低','中','高']
all_data['lmt_cut']=pd.cut(all_data['lmt'],bins=bins,labels=labels)
all_data.drop('lmt',axis=1,inplace=True)all_data['certValidStop']=all_data['certValidStop'].apply(lambda x:str(x)[0:10])
all_data['certValidStop']=all_data['certValidStop'].astype(float)
all_data['certValidBegin']=all_data['certValidBegin'].astype(float)
all_data['stop_time']=all_data['certValidStop'].apply(lambda x:time.strftime("%Y--%m--%d %H:%M:%S", time.localtime(x)))
all_data['begin_time']=all_data['certValidBegin'].apply(lambda x:time.strftime("%Y--%m--%d %H:%M:%S",time.localtime(x)))
all_data.drop(['certValidBegin','certValidStop'],axis=1,inplace=True)all_data['stop_year']=all_data['stop_time'].apply(lambda x:int(x.split(' ')[0].split('--')[0])-70)
all_data['stop_month']=all_data['stop_time'].apply(lambda x:x.split(' ')[0].split('--')[1])
all_data['stop_day']=all_data['stop_time'].apply(lambda x:x.split(' ')[0].split('--')[2])all_data['begin_year']=all_data['begin_time'].apply(lambda x:int(x.split(' ')[0].split('--')[0])-70)
all_data['begin_month']=all_data['begin_time'].apply(lambda x:x.split(' ')[0].split('--')[1])
all_data['begin_day']=all_data['begin_time'].apply(lambda x:x.split(' ')[0].split('--')[2])
all_data.drop(['stop_time','begin_time'],axis=1,inplace=True)all_data['residentAddr']=all_data['residentAddr'].apply(lambda x:str(x)[0:6])
all_data['residentAddr']=all_data['residentAddr'].astype(float)
mea=all_data.loc[all_data['residentAddr']!=-999,'residentAddr'].mean()
all_data.loc[all_data['residentAddr']==-999,'residentAddr']=int(mea)
all_data.loc[all_data['highestEdu']==-999,'highestEdu']=0
all_data.loc[all_data['linkRela']==-999,'linkRela']=3all_data['resident_province']=all_data['residentAddr'].apply(lambda x:str(x)[0:2])
all_data['resident_city']=all_data['residentAddr'].apply(lambda x:str(x)[2:4])
all_data['resident_county']=all_data['residentAddr'].apply(lambda x:str(x)[4:6])
all_data.drop('residentAddr',axis=1,inplace=True)for i in all_data['ethnic']:if i !=0:all_data.loc[all_data['ethnic']==i,'ethnic']=1cat_cols=['loanProduct','gender','edu','job','basicLevel','ethnic','highestEdu','linkRela','setupHour','weekday','isNew','certId_province','certId_city','certId_county','age_cut','dist_province','dist_city','dist_county','lmt_cut','stop_year','stop_month','stop_day','begin_year','begin_month','begin_day','resident_province','resident_city','resident_county']
cat_df=all_data[cat_cols]
ori_df=all_data.drop(cat_cols,axis=1)for i in cat_df.columns:cat_df[i]=cat_df[i].astype(str）
cat_dummy=pd.get_dummies(cat_df)
all_feat=pd.concat([cat_dummy,ori_df],axis=1)
all_feat.shapetrain=all_feat.iloc[:train_df.shape[0],:]
test=all_feat.iloc[train_df.shape[0]:,:]from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test=train_test_split(train,y)from xgboost import XGBClassifier
from sklearn.metrics import roc_auc_score,accuracy_scorexgb=XGBClassifier()
xgb.fit(x_train,y_train)pred=xgb.predict(x_test)
print(accuracy_score(y_test,pred))
roc_auc_score(y_test,pred)from sklearn.feature_selection import SelectFromModelselect=SelectFromModel(xgb,prefit=True)
new_all_feat=select.transform(all_feat)
new_all_feat.shapetrain2=new_all_feat[:train_df.shape[0],:]
test2=new_all_feat[train_df.shape[0]:,:]x_train2,x_test2,y_train2,y_test2=train_test_split(train2,y)xgb2=XGBClassifier()
xgb2.fit(x_train2,y_train2)predict2=xgb2.predict_proba(test2)[:,1]
predict2submit=pd.DataFrame()
submit['id']=submit_id
submit['target']=predict2
submit=submit.set_index('id')
submit.head()submit.to_csv(r'C:\Users\Chen\数据挖掘比赛\厦门国际银行“数创金融杯”\submit\submit84.csv')