La procédure Renforcement du gradient (gradient boosting) implémente une méthode d’apprentissage machine pour prévoir des observations à partir de données. Elle crée des modèles de deux formes :
Modèles de classement qui divisent des observations en classes en se basant sur les caractéristiques observées.
Modèles de régression qui prévoient la valeur d’une variable cible.
Elle consiste à combiner progressivement des modèles faibles basés sur des arbres de décision ou de régression pour former un modèle prédictif performant en corrigeant les erreurs résiduelles de manière itérative. Cette méthode repose sur une optimisation séquentielle où chaque nouveau modèle ajuste ses paramètres en minimisant une fonction de perte via le calcul des gradients.
Les observations sont classiquement divisées en trois jeux : un jeu d’apprentissage utilisé pour construire le modèle, un jeu de validation, pour lequel la classe ou la valeur est connue, utilisé pour valider le modèle et un jeu de prévision, pour lequel la classe ou la valeur n’est pas connue, utilisé pour faire les prévisions désirées.
La variable cible et les caractéristiques prédictives peuvent être qualitatives ou quantitatives.
Cette procédure est basée sur le package R ‘gbm’ (Gradient Boosting Machine).
Tableaux
Erreurs (apprentissage, validation croisée) et améliorations OOB
Importance des variables explicatives
Valeurs observées, prévues et probabilités (classement, apprentissage)
Nous utilisons des cookies pour vous garantir la meilleure expérience sur notre site web. Si vous continuez à utiliser ce site, nous supposerons que vous en êtes satisfait.
