Lors du développement d'un modèle, l'une des techniques que beaucoup n'expérimentent pas est la discrétisation des variables (ou feature discretization). Comme son nom l'indique, l'idée est de transformer une variable continue en plusieurs variables discrètes.

Schéma de la discrétisation des variables : transformer une variable continue en variables discrètes

Pourquoi, quand et comment ferait-on cela ?

C'est ce que nous allons voir aujourd'hui.

Pourquoi utiliser la discrétisation ?

Ma logique pour utiliser la discrétisation a presque toujours été très simple : "Il est tout simplement plus logique de discrétiser cette variable."

Par exemple, supposons que ton dataset contienne une variable représentant l'âge :

Équation : variable représentant l'âge dans un jeu de données, avant discrétisation

Dans de nombreux cas d'usage, comme l'analyse des comportements de dépense basés sur l'historique des transactions, ces variables continues sont bien plus faciles à interpréter lorsqu'elles sont découpées en groupes significatifs → les jeunes, les adultes et les seniors.

Imaginons que nous modélisions ce jeu de données de transactions sans discrétisation.

Cela produirait des coefficients pour chaque variable, nous indiquant l'influence de chacune sur la prédiction finale.

Équation : coefficients de chaque variable d'un modèle sans discrétisation, influence sur la prédiction

Mais en y repensant, dans notre objectif de comprendre les habitudes de dépense, sommes-nous vraiment intéressés par la corrélation entre l'âge exact et la dépense ?

Cela n'a pas beaucoup de sens.

Il est bien plus pertinent d'apprendre la corrélation entre différents groupes d'âge et les dépenses.

Par conséquent, discrétiser la variable d'âge peut potentiellement révéler des insights bien plus précieux que de l'utiliser à l'état brut.

Les 2 techniques de discrétisation les plus courantes

Maintenant que nous comprenons le principe, il existe 2 techniques qui sont largement privilégiées.

Schéma de la discrétisation des variables : transformer une variable continue en variables discrètes

La première méthode consiste à découper la variable en intervalles de taille égale (binning).

Tous les intervalles (bins) ont la même largeur.

Tous les intervalles (bins) ont la même largeur

Une autre technique consiste à découper la variable en intervalles à fréquence égale (contenant le même nombre d'observations) :

La largeur de chaque intervalle peut être différente dans ce cas.

La largeur de chaque intervalle peut être différente dans ce cas

Ensuite, ces valeurs discrètes sont encodées en one-hot (encodage disjonctif complet).

L'un des grands avantages de la discrétisation est qu'elle permet d'introduire un comportement non linéaire, même si le modèle sous-jacent est linéaire.

Cela peut potentiellement conduire à une meilleure précision, comme le montre l'image ci-dessous :

Comparaison sans et avec discrétisation des variables : frontière de décision d'un modèle linéaire

Un modèle linéaire couplé à la discrétisation des variables produit :

  • une frontière de décision non linéaire.

  • une meilleure précision (accuracy) sur l’ensemble de test.

Ainsi, d'une certaine manière, nous conservons la simplicité d'un modèle linéaire tout en capturant des relations plus complexes et non linéaires dans les données.

Simple et efficace, non ?

La discrétisation des variables continues présente aussi un autre avantage clé : elle améliore le ratio signal/bruit.

Concrètement, le “signal” correspond à l’information réellement utile dans les données, celle qui permet de prendre de bonnes décisions.

En regroupant une variable en intervalles, on réduit l’impact des petites variations souvent aléatoires — autrement dit, du bruit — pour mieux faire ressortir les tendances importantes.

Illustration des données brutes bruitées, que la discrétisation en intervalles permet de lisser

Chaque intervalle agit comme un moyen de "lisser" le bruit au sein de segments de données spécifiques.

Le mot de la fin

Avant de conclure, garde un point important en tête : la discrétisation, combinée au one-hot encoding, augmente le nombre de variables… et donc la dimensionnalité de tes données.

Or, plus le nombre de dimensions est élevé, plus il devient facile pour un modèle de séparer les données de manière linéaire. Par conséquent, cela peut favoriser le surapprentissage (overfitting).

La clé, c’est donc la modération. Inutile de discrétiser toutes tes variables systématiquement.

Privilégie les cas où cela fait réellement sens, comme on l’a vu précédemment.

Dans la pratique, son intérêt dépend beaucoup du contexte. Mais avec l’expérience, certains cas reviennent souvent :

  • Les données géospatiales (latitude, longitude), où regrouper par zones peut être très efficace.

  • Les variables comme l’âge ou le poids, qui se prêtent naturellement à des catégories.

  • Les variables bornées (revenus, épargne…), pour lesquelles raisonner par tranches est souvent plus pertinent que valeur brute.


Pour continuer sur la transformation des variables, voici un shot :

Envie d'aller plus loin ? DataXp t'attend : formations et parcours pour progresser en data science, machine learning et IA.

👉 À toi de jouer : selon toi, quels autres points de vigilance faut-il avoir en tête lorsqu’on utilise la discrétisation des variables ?


Commentaires

Avatar

ou participer

À lire ensuite

Des shots dans la même veine, à lire entre deux tâches.

Voir tous les shots
caret-right