Machine Learning avec Scikit-Learn

138

Chapitre 4. Entraînement de modèles

Équation 4.17 – Fonction de coût de la régression logistique (perte logistique)

J

()

=–

1

m

y

(i)

log

ˆ

p

(i)

()

+(1–y

(i)

)log 1–

ˆ

p

(i)

()

i=1

m

La mauvaise nouvelle, c’est qu’il n’existe pas de solution analytique connue pour

calculer la valeur de θ qui minimise cette fonction de coût (il n’y a pas d’équivalent de

l’équation normale). La bonne nouvelle, c’est que cette fonction de coût est convexe,

c’est pourquoi un algorithme de descente de gradient (comme tout autre algorithme

d’optimisation) est assuré de trouver le minimum global (si le taux d’apprentissage n’est

pas trop grand et si vous attendez sufsamment longtemps). ...