Random Forest

El algoritmo de Random Forest (también conocido como Bosques Aleatorios) es ampliamente utilizado para la creación de modelos supervisados. Basado en una idea simple: combinar diferentes árboles de decisión. Permite obtener modelos con menor propensión al sobreajuste que un árbol de decisión.

El fundamento de Random Forest

Random Forest es básicamente un algoritmo de bagging en el que se combinan diferentes árboles de decisión. Los cuales se obtienen tras un proceso de entrenamiento en el que se utiliza una muestra aleatoria diferente para cada uno de ellos. Obteniendo así una predicción diferente en cada uno de los árboles. La predicción final se obtiene mediante votación, seleccionado aquella opción que es reportada por una mayor cantidad de árboles. Esto permite obtener un modelo con una menor varianza.

¿En qué consiste la aleatoriedad de los conjuntos de datos?

A la hora de seleccionar los conjuntos de datos utilizados para el entrenamiento de cada uno de los árboles existen dos niveles de aleatoriedad.

A nivel de registro: cada uno de los árboles de decisión utiliza una muestra aleatoria de los registros disponibles del conjunto de datos de entrenamiento. Es decir, cada uno de los árboles utiliza solamente un porcentaje de registros totales.
A nivel de características: de manera análoga a los registros cada uno de los árboles se entrenará solamente con un subconjunto de las características disponibles. Es decir, las características que son empleadas en cada modelo son diferentes y aleatorias.

Por qué utilizar el algoritmo de Random Forest

Las principales ventajas de estos modelos frente a otras familias son:

Reduce la varianza. Debido a la utilización de múltiples árboles de decisión la varianza de la predicción disminuye respecto a un solo árbol de decisión. Lo que reduce la posibilidad de obtener un modelo sobreajustado. Aún así el sesgo del modelo es el mismo que se obtiene con un solo árbol de decisión.
No requiere la asunción de suposiciones. Cuando solamente se quiere un modelo para realizar predicciones Random Forest es una solución excelente. Esto es así porque no es necesario realizar suposiciones sobre el modelo o los conjuntos de datos.

En qué situaciones no es adecuado utilizar Random Forest

Los algoritmos de Random Forest no son la mejor selección en todos los casos. Existen situaciones en las que su utilización puede ser contraproducente. Por ejemplo, se pueden enumerar las siguientes:

En conjuntos de datos pequeños. Random Forest no produce buenos modelos cuando los conjuntos de datos son pequeños. La necesidad de tener que dividir el conjunto de datos en submuestras hace que no se puedan obtener buenas predicciones. Ya que cada árbol no contará con datos suficientes para su entrenamiento.
En el caso de que se deseen interpretar los resultados. En los modelos construidos mediante Random Forest es difícil explicar la relación entra las diferentes características y la predicción final. Los modelos Random Forest no se pueden visualizar los árboles de decisión. Por lo que si se desea explicar los motivos por lo que se obtiene una predicción es mejor utilizar modelos como la regresión logística o los árboles de decisión. Nótese que Random Forest produce modelos predictivos no descriptivos.
El coste de entrenar puede ser alto. El coste computacional de entrenar un modelo de Random Forest aumenta a medida que se incrementa el número de árboles.

Conclusiones

En la entrada se han explicado los fundamentos de un algoritmo para la creación de modelos supervisados ampliamente utilizado. Random Forest es permite obtener de una manera fácil y sin la necesidad de realizar suposiciones sobre el conjunto de datos modelos con una alta capacidad predictiva. En su contra se encuentra que no ofrecen la misma capacidad explicativa que lo los árboles de decisión.

Imágenes: Pixabay (Johannes Plenio)