Régression (linéaire, logistique, polynomiale)

La régression est une méthode fondamentale de l’apprentissage supervisé, utilisée pour modéliser les relations entre une ou plusieurs variables explicatives (features) et une variable cible (target). Elle se décline en plusieurs formes selon la nature de la relation entre les variables et le type de variable à prédire.

• Régression linéaire : utilisée pour prédire une variable continue à partir d’une ou plusieurs variables indépendantes en supposant une relation linéaire. Elle fournit une équation de type y = aX + b et minimise l’erreur quadratique entre les prédictions et les valeurs observées.

• Régression logistique : appliquée lorsque la variable cible est binaire ou catégorielle. Elle permet d’estimer la probabilité qu’un échantillon appartienne à une classe en utilisant la fonction logistique (sigmoïde). Elle est particulièrement utilisée en classification binaire.

• Régression polynomiale : extension de la régression linéaire pour modéliser des relations non linéaires entre les variables. Elle consiste à introduire des puissances supplémentaires des variables explicatives afin d’ajuster des courbes plus complexes tout en restant dans un cadre linéaire en paramètres.