Différence entre standardisation et normalisation

La standardisation et la normalisation sont deux techniques utilisées pour mettre à l’échelle les données, mais elles ont des objectifs et des méthodes différentes : Standardisation : But : Transformer les données pour qu’elles aient une distribution avec une moyenne de 0 et un écart-type de 1. Cela est utile lorsque les données ont des échelles différentes et que vous souhaitez les rendre comparables. Méthode : La standardisation est effectuée en soustrayant la moyenne de chaque donnée et en divisant par l’écart-type. La formule est : 𝑧 = 𝑥 − 𝜇 𝜎 z= σ x−μ où 𝑥 x est la valeur d’une donnée, 𝜇 μ est la moyenne et 𝜎 σ est l’écart-type de la distribution des données. Utilisation : Elle est recommandée pour les modèles qui supposent que les données suivent une distribution normale (par exemple, la régression linéaire, les réseaux de neurones). Normalisation : But : Redimensionner les données pour qu’elles se situent dans un intervalle donné, souvent entre 0 et 1. Cela est utile pour les algorithmes qui calculent des distances, comme les k-plus proches voisins (k-NN) ou les réseaux de neurones. Méthode : La normalisation est réalisée en soustrayant la valeur minimale et en divisant par la plage (max – min). La formule est : 𝑥 norm = 𝑥 − min ⁡ ( 𝑥 ) max ⁡ ( 𝑥 ) − min ⁡ ( 𝑥 ) x norm = max(x)−min(x) x−min(x) Utilisation : Elle est idéale pour les algorithmes sensibles à l’échelle des données, comme les méthodes basées sur la distance (par exemple, k-NN, SVM). Résumé des différences : Standardisation : Transformation basée sur la moyenne et l’écart-type. Résultats centrés autour de 0 avec un écart-type de 1. Convient aux modèles qui utilisent des méthodes statistiques. Normalisation : Transformation qui contraint les données dans une plage spécifique (souvent entre 0 et 1). Utilisée pour les algorithmes de distance ou les réseaux de neurones.

Fonctions :

Concepts

Explication du code :

La standardisation et la normalisation sont deux techniques courantes utilisées en prétraitement des données afin de transformer les variables numériques en un format plus adapté pour les modèles d'apprentissage automatique. Bien que ces termes soient souvent utilisés de manière interchangeable, ils désignent en réalité des processus différents.

1. Standardisation :
La standardisation (ou centrage-réduction) est une méthode qui consiste à transformer les données de manière à ce qu'elles aient une moyenne de 0 et un écart-type de 1. C’est une approche utile lorsque les données suivent une distribution normale ou que vous travaillez avec des modèles qui supposent une distribution gaussienne (par exemple, les régressions linéaires ou logistiques).


 	
Formule de standardisation :
 $\frac{x - \mu}{\sigma}$ 
où :


 	 $x$  est la valeur d'origine,
 	 $μ\mu$  est la moyenne des données,
 	 $σ\sigma$  est l'écart-type des données.

La standardisation est particulièrement utile lorsque les variables ont des unités différentes ou des échelles disparates, car elle permet d'éviter que des variables ayant une grande échelle influencent trop les résultats des modèles.


Avantages de la standardisation :

 	Les données sont centrées autour de zéro.
 	L’écart-type est de 1, ce qui facilite la comparaison entre différentes variables, même si elles sont sur des échelles différentes.
 	Les modèles comme la régression linéaire, les réseaux de neurones et les SVM bénéficient souvent d'une standardisation des données.

2. Normalisation :
La normalisation, en revanche, consiste à transformer les données afin qu'elles soient sur une échelle uniforme, typiquement entre 0 et 1. C'est une méthode qui est particulièrement utilisée lorsque les données ne suivent pas nécessairement une distribution normale, ou lorsque les valeurs extrêmes ou les "outliers" n'ont pas d'importance. La normalisation est souvent utilisée pour les modèles basés sur des distances, comme les k-plus proches voisins (KNN) ou les réseaux de neurones.


 	
Formule de normalisation :
 $xnorm=x−min⁡(x)max⁡(x)−min⁡(x)x_{\text{norm}} = \frac{x - \min(x)}{\max(x) - \min(x)}$ 
où :


 	 $x$  est la valeur d'origine,
 	 $min⁡(x)\min(x)$  est la valeur minimale dans le jeu de données,
 	 $max⁡(x)\max(x)$  est la valeur maximale dans le jeu de données.

Cela permet de réduire la variabilité entre les variables et d'uniformiser leur échelle, ce qui est particulièrement utile dans le cas de l'utilisation de méthodes de calcul basées sur les distances ou de réseaux de neurones.


Avantages de la normalisation :

 	L'échelle des données est réduite entre 0 et 1, ce qui est particulièrement utile lorsque les modèles nécessitent des données sur des échelles homogènes.
 	Permet d'éviter que les variables ayant des valeurs beaucoup plus grandes ou plus petites influencent de manière disproportionnée les résultats d'un modèle.

Différences principales :



Aspect
Standardisation
Normalisation




Objectif
Centrer les données autour de 0 et leur donner un écart-type de 1.
Mettre les données à une échelle uniforme (souvent entre 0 et 1).


Formule
 $\frac{x - \mu}{\sigma}$ 
 $xnorm=x−min⁡(x)max⁡(x)−min⁡(x)x_{\text{norm}} = \frac{x - \min(x)}{\max(x) - \min(x)}$ 


Utilisation
Données avec des distributions proches de la normale.
Données avec des échelles variées, souvent utilisées pour des algorithmes basés sur des distances (KNN, réseaux de neurones).


Modèles associés
Régression linéaire, SVM, PCA, etc.
KNN, réseaux de neurones, algorithmes d'optimisation avec contraintes d'échelle.


Sensibilité aux outliers
Moins sensible aux outliers.
Très sensible aux outliers, car les valeurs extrêmes affectent fortement le minimum et le maximum.


Plage des valeurs
Pas forcément entre 0 et 1 ; la valeur moyenne est 0 et l'écart-type est 1.
Toujours entre 0 et 1, en fonction des valeurs minimales et maximales.



Quand utiliser l'une ou l'autre ?

 	
Standardisation : Vous devriez utiliser la standardisation lorsque les données suivent une distribution normale ou quand votre modèle est sensible à l'échelle des variables, comme dans le cas des régressions ou des modèles linéaires. Elle est également bénéfique lorsque vous travaillez avec des algorithmes qui calculent des moyennes et des écarts-types (comme les SVM ou la régression linéaire).

 	
Normalisation : La normalisation est généralement utilisée lorsque vous avez des données avec des valeurs extrêmes ou des échelles très différentes, ou si vous utilisez des modèles comme les réseaux de neurones ou les KNN qui sont influencés par les distances entre les points de données.

Aspect	Standardisation	Normalisation
Objectif	Centrer les données autour de 0 et leur donner un écart-type de 1.	Mettre les données à une échelle uniforme (souvent entre 0 et 1).
Formule	$\frac{x - \mu}{\sigma}$	$xnorm=x−min⁡(x)max⁡(x)−min⁡(x)x_{\text{norm}} = \frac{x - \min(x)}{\max(x) - \min(x)}$
Utilisation	Données avec des distributions proches de la normale.	Données avec des échelles variées, souvent utilisées pour des algorithmes basés sur des distances (KNN, réseaux de neurones).
Modèles associés	Régression linéaire, SVM, PCA, etc.	KNN, réseaux de neurones, algorithmes d'optimisation avec contraintes d'échelle.
Sensibilité aux outliers	Moins sensible aux outliers.	Très sensible aux outliers, car les valeurs extrêmes affectent fortement le minimum et le maximum.
Plage des valeurs	Pas forcément entre 0 et 1 ; la valeur moyenne est 0 et l'écart-type est 1.	Toujours entre 0 et 1, en fonction des valeurs minimales et maximales.