• Saltar a la navegación principal
  • Saltar al contenido principal
  • Saltar a la barra lateral principal
  • Saltar al pie de página

Analytics Lane

Ciencia e ingeniería de datos aplicada

  • Ciencia de datos
  • Criptografía
  • Python
  • Matlab
  • R
  • Herramientas
  • Tienda

Seleccionar automáticamente los modelos en Python con GridSearchCV

febrero 18, 2019 Por Daniel Rodríguez Deja un comentario

Las clases GridSearchCV y RandomizedSearchCV de Scikit-learn pueden ser utilizadas para automatizar la selección de los parámetros de un modelo. Aplicando para ello la técnica de validación cruzada. Partiendo de un modelo y un conjunto de sus parámetros prueba múltiples combinaciones para identificar aquella que ofrece mayor rendimiento. Proceso que se ha visto en una entrada anterior dedicada a GridSearchCV. En muchas situaciones puede ser necesario identificar también qué modelo funciona mejor. Lo que se puede conseguir utilizando la clase Pipeline junto alguna de las anteriores. En esta entrada se va a explicar cómo seleccionar automáticamente los modelos en Python con GridSearchCV y Pipeline.

Utilización básica de GridSearchCV

GridSearchCV permite seleccionar los valores de los hiperparametros para un modelo y conjunto de datos. Para ellos, se ha de crear un objeto GridSearchCV donde el modelo es el primer parámetro y un diccionario de los parámetros es el segundo. Por ejemplo, en el siguiente trozo de código se muestra un ejemplo.

from sklearn.datasets import load_diabetes
from sklearn.linear_model import Ridge
from sklearn.model_selection import GridSearchCV

dataset = load_diabetes()

X = dataset.data
y = dataset.target

model = Ridge()
params = {'alpha': [1, 0.1, 0.01, 0.001, 0.0001]}

grid = GridSearchCV(model, params, cv=10, iid=False)
grid.fit(X, y)

grid.best_estimator_.get_params()

En este código inicialmente se importar el conjunto de datos de diabetes disponibles en Scikit-learn. La variable objetivo de este es una medida cuantitativa de la progresión de la enfermedad un año después del resto de registros. Por lo que se puede crear un modelo de regresión. En el ejemplo se utiliza un modelo Ridge en el que se prueban diferentes valores de alpha que se evalúan con GridSearchCV. Una vez entrenado el modelo se puede consultar con qué valor de alpha se obtienen los mejores rendimientos. En este caso el valor es de 0,1.

Las posibilidades de esta clase y RandomizedSearchCV se pueden ver en mayor profundidad en la entrada GridSearchCV.

Evaluación de otro modelo

Una vez obtenido el resultado anterior se puede probar con otro modelo, por ejemplo, con ElasticNet. Para lo que se puede emplear el siguiente código.

from sklearn.linear_model import ElasticNet

model = ElasticNet()
params = {'alpha': [1, 0.1, 0.01, 0.001, 0.0001],
          'l1_ratio': [1, 0.1, 0.01, 0.001, 0.0001]}

grid = GridSearchCV(model, params, cv=10, iid=False)
grid.fit(X, y)

grid.best_estimator_.get_params()

A diferencia del caso anterior se puede probar con diferentes valores para alpha y l1_ratio. Mediante el mismo proceso se pueden obtener los mejores hiperparametros para este modelo y conjunto de datos. En esta ocasión es son alpha igual a 0,001 y l1_ratio igual a 0,001.

Uso de Pipeline para seleccionar automáticamente los modelos en Python

En las dos secciones anteriores se ha visto cómo seleccionar los parámetros de un modelo. Pero en muchas aplicaciones prácticas lo que se busca es seleccionar el modelo. Lo que se puede conseguir con el uso de la clase Pipeline. La cual se ha utilizado en una entrada anterior para automatizar el procesado de datos.

El procedimiento es crear una tubería con un modelo. Posteriormente se pueden utilizar diferentes objetos con modelos como parámetros de la tubería. Al mismo tiempo que se pueden incluir los parámetros de los modelos. Esto es lo que se muestra en el siguiente código.

from sklearn.pipeline import Pipeline
from sklearn.linear_model import Lasso

pipe = Pipeline([('model', Ridge())])

params = [{'model': [Ridge()],
           'model__alpha': [1, 0.1, 0.01, 0.001, 0.0001]},
          {'model': [Lasso()],
           'model__alpha': [1, 0.1, 0.01, 0.001, 0.0001]},
          {'model': [ElasticNet()],
           'model__alpha': [1, 0.1, 0.01, 0.001, 0.0001],
           'model__l1_ratio': [1, 0.1, 0.01, 0.001, 0.0001]}]

grid = GridSearchCV(pipe, params, cv=10, iid=False)
grid.fit(X, y)

grid.best_estimator_.get_params()['model']

En este ejemplo se han probado tres modelos diferentes en un único proceso: Ridge, Lasso y ElasticNet. Evaluando diferentes modelos en cada uno de ellos. Obteniéndose como resultado el modelo y parámetros que mejor funcionan para este conjunto de datos. En este caso, el modelo resultante ha sido ElasticNet con alpha igual a 0,001 y l1_ratio igual a 0,001.

Conclusiones

En esta entrada se ha visto cómo utilizar GridSearchCV y Pipeline para seleccionar automáticamente los modelos en Python. La combinación de estas dos herramientas permite automatizar procesos tediosos como es el hecho de probar diferentes tipos de modelos y comparar. Poniendo de manifiesto la potencia que ofrecen la unión de ambas. Lo que ya se había visto en una entrada anterior en la que se automatiza el procesado de datos.

Imágenes: Pixabay (Pete Linforth)

No te olvides valorar esta entrada

Puntuación: 5.0/5. 1 voto.
Por favor espera...

Archivado en: Python Etiquetado como: scikit-learn

Entrada anterior: « Estructurar las funciones JavaScript (Creación de una librería JavaScript 2ª parte)
Siguiente entrada: 4 ventajas de TDD »

Interacciones del lector

Deja un comentario Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Suscríbete a nuestro boletín

Suscríbete al boletín semanal para estar al día de todas las publicaciones de Analytics Lane.

Contenido relacionado

Barra lateral primaria

Tiendas afiliadas

Realiza tus compras mediante los enlaces y colabora con la web, todo sin coste adicional para ti. También puedes ver nuestra tienda. ¡Gracias!
Aliexpress Amazon Banggood Gearbest

Seguir a Analytics Lane

  • twitter
  • pinterest
  • youtube
  • telegram
  • github
  • rss

Seguir en Feedly

follow us in feedly

Suscríbete a nuestro boletín

Suscríbete al boletín semanal para estar al día de todas las publicaciones de Analytics Lane.

Política de Privacidad

Lo mejor valorado

  1. Seleccionar filas y columnas en Pandas con iloc y loc
    Puntuación: 5.0/5. 5 votos.
  2. Unir y combinar dataframes con pandas en Python
    Puntuación: 5.0/5. 5 votos.
  3. Eliminar registros duplicados en pandas
    Puntuación: 5.0/5. 5 votos.
  4. Guardar y leer archivos Excel en Python
    Puntuación: 5.0/5. 4 votos.
  5. Archivos JSON con Python: lectura y escritura
    Puntuación: 4.7/5. 7 votos.

Entradas recientes

  • Numpy básico: inicializar arrays de Numpy con un valor diciembre 4, 2019
  • Bajar impuestos para crecer más diciembre 2, 2019
  • Usar Python desde Matlab noviembre 29, 2019
  • Numpy básico: como añadir elementos en arrays de Numpy con np.append() noviembre 27, 2019
  • Relación entre impuestos y riqueza noviembre 25, 2019

Comentarios recientes

  • Daniel Rodríguez en Reglas de asociación y market-basket analysis
  • eva en Reglas de asociación y market-basket analysis
  • Daniel Rodríguez en Proteger las funciones escritas en Matlab para su distribución
  • Marco Cabrera en Proteger las funciones escritas en Matlab para su distribución
  • Marc en Operaciones de filtrado de DataFrame con Pandas en base a los valores de las columnas

Etiquetas

Anaconda Analytics Lane App Designer Bases de datos Blockchain CLV Computación cuántica Criptomonedas Deep learning Elecciones Excel Git GUIDE Hash Java Jupyter Libros Machine learning Marketing node numpy pandas Precios RapidMiner scikit-learn seaborn series temporales Small Data Spark SQL Unit testing VirtualBox

Footer

Secciones

  • Ciencia de datos
  • Criptografía
  • Herramientas
  • Noticias
  • Opinión

Programación

  • JavaScript
  • Julia
  • Matlab
  • Python
  • R

Analytics Lane

  • Acerca de Analytics Lane
  • Boletín de noticias
  • Contacto
  • Tienda

Afiliados

  • AliExpress
  • Amazon
  • BangGood
  • GearBest
  • GearVita
  • Geekbuying
  • JoyBuy

Sobre de Analytics Lane

En Analytics Lane tratamos de explicar los principales conceptos de la ciencia e ingeniería de datos con un enfoque práctico. Los principales temas tratados son ciencia de datos, ingeniería de datos, inteligencia artificial, machine learning, deep learning y criptografía. Además, también se habla de los principales lenguajes de programación y herramientas utilizadas por los científicos e ingenieros de datos.

2018-2019 Analytics Lane · Términos y condiciones · Política de Cookies · Política de Privacidad · Herramientas de privacidad · Contacto