Machine Learning avec Scikit-Learn

4.5 Modèles linéaires régularisés

131

© Dunod – Toute reproduction non autorisée est un délit.

>>> from sklearn.linear_model import Ridge

>>> ridge_reg = Ridge(alpha=1, solver="cholesky")

>>> ridge_reg.fit(X, y)

>>> ridge_reg.predict([[1.5]])

array([[1.55071465]])

Et en utilisant une descente de gradient stochastique

67

:

>>> sgd_reg = SGDRegressor(penalty="l2")

>>> sgd_reg.fit(X, y.ravel())

>>> sgd_reg.predict([[1.5]])

array([1.47012588])

L’hyperparamètre penalty dénit le type de terme de régularisation à utiliser.

En spéciant "l2", vous choisissez d’ajouter à la fonction de coût un terme de régu-

larisation égal à la moitié du carré de la norme ℓ

2

du ...