{"id":425,"date":"2015-11-12T07:37:36","date_gmt":"2015-11-12T07:37:36","guid":{"rendered":"http:\/\/blog.tiran.info\/?p=425"},"modified":"2015-11-12T07:37:36","modified_gmt":"2015-11-12T07:37:36","slug":"arbre-de-decision-avec-r","status":"publish","type":"post","link":"https:\/\/blog.tiran.stream\/?p=425","title":{"rendered":"Arbre de d\u00e9cision avec R"},"content":{"rendered":"

Je r\u00e9alise ici une analyse similaire \u00e0 celle du pr\u00e9c\u00e9dent billet<\/a> en m’appuyant cette fois-ci sur R.<\/p>\n

Chargement des donn\u00e9es<\/h3>\n

Les donn\u00e9es des vues v_autos_apprentissage et v_autos_test sont respectivement charg\u00e9es dans les dataframes autos_apprentissage et autos_test:<\/p>\n

> library(ROracle)\nLe chargement a n\u00e9cessit\u00e9 le package : DBI\nWarning message:\nle package \u2018DBI\u2019 a \u00e9t\u00e9 compil\u00e9 avec la version R 3.2.1 \n> ora = Oracle()\n> cnx = dbConnect(ora, username="rafa", password="rafa", dbname="S1401037:1521\/STATPDB")\n> autos_apprentissage <- dbGetQuery(cnx, "select * from v_autos_apprentissage")\n> autos_test <- dbGetQuery(cnx, "select * from v_autos_test")\n> dbDisconnect(cnx)\n[1] TRUE\n><\/pre>\n
Par d\u00e9faut, les donn\u00e9es textuelles (VARCHAR2) sont typ\u00e9es en \u00ab\u00a0character\u00a0\u00bb dans R. Il faut donc passer par une \u00e9tape de conversion sous forme de facteurs:<\/p>\n
> autos_apprentissage$TYP_BOITE=as.factor(autos_apprentissage$TYP_BOITE)\n> autos_apprentissage$GAMME=as.factor(autos_apprentissage$GAMME)\n> autos_apprentissage$BONUS_MALUS=as.factor(autos_apprentissage$BONUS_MALUS)\n> autos_apprentissage$CARROSSERIE=as.factor(autos_apprentissage$CARROSSERIE)\n> autos_apprentissage$HYBRIDE=as.factor(autos_apprentissage$HYBRIDE)\n> autos_apprentissage$LIB_MRQ=as.factor(autos_apprentissage$LIB_MRQ)\n> autos_apprentissage$COD_CBR=as.factor(autos_apprentissage$COD_CBR)\n> \n> autos_test$TYP_BOITE=as.factor(autos_test$TYP_BOITE)\n> autos_test$GAMME=as.factor(autos_test$GAMME)\n> autos_test$BONUS_MALUS=as.factor(autos_test$BONUS_MALUS)\n> autos_test$CARROSSERIE=as.factor(autos_test$CARROSSERIE)\n> autos_test$HYBRIDE=as.factor(autos_test$HYBRIDE)\n> autos_test$LIB_MRQ=as.factor(autos_test$LIB_MRQ)\n> autos_test$COD_CBR=as.factor(autos_test$COD_CBR)\n> \n> summary(autos_test)\n       LIB_MRQ      LIB_MOD          COD_CBR  HYBRIDE   PUISS_ADMIN_98     PUISS_MAX     TYP_BOITE    NB_RAPP        CONSO_URB       CONSO_EXURB    \n AUDI      :274   Length:654         ES:289   non:654   Min.   : 3.000   Min.   : 44.0   A:249     Min.   :0.000   Min.   : 3.800   Min.   : 3.000  \n SEAT      :104   Class :character   GO:365             1st Qu.: 6.000   1st Qu.: 77.0   M:366     1st Qu.:6.000   1st Qu.: 5.600   1st Qu.: 4.100  \n SKODA     :103   Mode  :character                      Median : 8.000   Median :103.0   V: 39     Median :6.000   Median : 6.400   Median : 4.500  \n VOLKSWAGEN:173                                         Mean   : 9.546   Mean   :120.8             Mean   :5.722   Mean   : 7.039   Mean   : 4.773  \n                                                        3rd Qu.:10.000   3rd Qu.:139.0             3rd Qu.:6.000   3rd Qu.: 7.500   3rd Qu.: 5.200  \n                                                        Max.   :48.000   Max.   :412.0             Max.   :8.000   Max.   :22.200   Max.   :10.700  \n                                                                                                                                                    \n  CONSO_MIXTE     MASSE_ORDMA_MIN MASSE_ORDMA_MAX            CARROSSERIE         GAMME       BONUS_MALUS \n Min.   : 3.200   Min.   : 929    Min.   : 929    BERLINE          :352   INFERIEURE:110   C (0)   :372  \n 1st Qu.: 4.600   1st Qu.:1296    1st Qu.:1296    BREAK            :139   LUXE      : 85   D (150) : 54  \n Median : 5.200   Median :1500    Median :1500    COMBISPACE       : 45   MOY-INFER :208   G (900) : 51  \n Mean   : 5.598   Mean   :1485    Mean   :1485    COUPE            : 65   MOY-SUPER :203   I (2200): 49  \n 3rd Qu.: 6.000   3rd Qu.:1646    3rd Qu.:1646    MONOSPACE        : 26   SUPERIEURE: 48   H (1600): 39  \n Max.   :14.900   Max.   :2315    Max.   :2315    MONOSPACE COMPACT: 27                    N (8000): 29  \n                                                                                           (Other) : 60  \nWarning message:\nIn summary(autos_test) : bytecode version mismatch; using eval\n><\/pre>\n
 <\/p>\n
Construction de l’arbre de d\u00e9cision<\/h3>\n
Le package rpart permet de construire l’arbre \u00e0 partir de l’\u00e9chantillon d’apprentissage. On exclut les champs LIB_MOD et LIB_MRQ qui n’ont pas d’int\u00e9r\u00eat informatif.<\/p>\n
> library(rpart)\n> autos_dt <- rpart(BONUS_MALUS~., data=autos_apprentissage[,!(colnames(autos_apprentissage) %in% c("LIB_MOD","LIB_MRQ"))], method="class")\n><\/pre>\n
On cherche ensuite \u00e0 \u00ab\u00a0\u00e9laguer\u00a0\u00bb l’arbre de mani\u00e8re \u00e0 obtenir le meilleur compromis entre le nombre de feuilles et la performance de classification.\u00a0Ce compromis d\u00e9pend du crit\u00e8re cp (complexity parameter) dont on peut d\u00e9terminer la valeur optimale via les commandes plotcp (mode graphique) et printcp:<\/p>\n
> plotcp(autos_dt)<\/pre>\n
\"plotcp\"<\/a><\/p>\n
> printcp(autos_dt)\n\nClassification tree:\nrpart(formula = BONUS_MALUS ~ ., data = autos_apprentissage[, \n    !(colnames(autos_apprentissage) %in% c("LIB_MOD", "LIB_MRQ"))], \n    method = "class")\n\nVariables actually used in tree construction:\n[1] COD_CBR     CONSO_EXURB CONSO_MIXTE\n\nRoot node error: 1329\/2722 = 0.48824\n\nn= 2722 \n\n         CP nsplit rel error  xerror     xstd\n1  0.170429      0   1.00000 1.00000 0.019623\n2  0.048345      2   0.65914 0.66215 0.018362\n3  0.045147      6   0.46576 0.48608 0.016702\n4  0.025771      7   0.42062 0.42363 0.015901\n5  0.019564     11   0.31753 0.32807 0.014398\n6  0.017682     12   0.29797 0.31603 0.014181\n7  0.017306     14   0.26260 0.28819 0.013650\n8  0.015801     16   0.22799 0.27991 0.013485\n9  0.013544     17   0.21219 0.23928 0.012610\n10 0.010534     19   0.18510 0.20542 0.011793\n11 0.010000     20   0.17457 0.19413 0.011499\n><\/pre>\n
Dans l’exemple ci-dessus, l’algorithme s’interrompt pour un CP de 0.01 (qui se trouve \u00eatre la limite basse par d\u00e9faut du param\u00e8tre). Cela signifie que l’ajout de nouvelles feuilles ne permettrait pas d’am\u00e9liorer la pr\u00e9cision de la classification de plus d’1%.<\/p>\n
Dans ce cas pr\u00e9cis, l’\u00e9lagage de l’arbre n’est pas n\u00e9cessaire puisque la structure finale correspond d\u00e9j\u00e0 au CP le plus faible. N\u00e9anmoins, le cas \u00e9ch\u00e9ant l’\u00e9lagage serait r\u00e9alis\u00e9 via la fonction prune:<\/p>\n
> optimcp <- autos_dt$cptable[which.min(autos_dt$cptable[,"xerror"]),"CP"]\n> autos_dt.pruned <- prune(autos_dt, cp = optimcp)<\/pre>\n
<\/h3>\n
 <\/p>\n
Performance du mod\u00e8le<\/h3>\n
La sortie de printcp permet aussi de quantifier la performance du mod\u00e8le via deux taux d’erreur<\/a>:<\/p>\n