Regresión lineal en JavaScript con ml.js

JavaScript es uno de los lenguajes más populares actualmente. Esto se puede observar en el ranking de la encuesta anual que realiza a los desarrolladores Stack Overflow. En 2018, por sexto año consecutivo, JavaScript se ha situado como el lenguaje más popular. Dada su popularidad no es de extrañar que existan múltiples librerías para el desarrollo de modelos de aprendizaje automático, como se puede ven en la publicación 10 librerías para machine learning en JavaScript. Una de las librerías de las librerías que más modelo de aprendizaje automático implementa en JavaScript es ml.js. En esta entrada se va a mostrar como implementar modelos de Regresión lineal en JavaScript con ml.js.

Instalación de la librería ml.js

ml.js se puede utilizar tanto en proyectos web como en Node.js. Para incluirla en una página web simplemente se ha de incluir la siguiente línea

<script src="https://www.lactame.com/lib/ml/3.3.0/ml.min.js"></script>

Por otro lado en un proyecto Node.js se ha de instalar en paquete con el comando de terminal.

npm install ml

Posteriormente se ha de cargar en el proyecto utilizando la siguiente línea de código:

const ML = require('ml');

Los modelos de Regresión lineal en JavaScript con ml.js

La regresión lineal es uno de los primeros modelos que se estudian en aprendizaje automático. Ya que es un modelo fácil de entender y que sirve para resolver una gran cantidad de problemas. Además, es una buena introducción con el que es posible sentar las bases de otros modelos más complejos como puede ser la regresión logística. La ecuación básica que describe estos modelos es

y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n = \sum_{i=0}^n \beta_i x_i

donde y es la variable dependiente u objetivo, \beta_i son los parámetros del modelo y x_i las variables explicativas.

ml.js implementa varios constructores con los que se pueden crear un modelo de regresión, entre los que se pueden destacar:

• ML.SimpleLinearRegression: implementa la regresión lineal simple
• ML.MultivariateLinearRegression: implementa la regresión polinómica

La regresión lineal simple

La regresión lineal simple es el modelo más básico de regresión. En este caso solamente se dispone de una variable explicativa. La implementación de este tipo de modelos se puede llevar a cabo en JavaScript con el constructor ML.SimpleLinearRegression. En la construcción del objeto solamente se han de indicar dos vectores con la variable explicativa y la dependiente. Esto es lo que se muestra en el siguiente ejemplo.

const ML = require('ml');

// Define features
var x = new Array(100);
var y = new Array(100);

for (var i = 0; i < 100; ++i){
    x[i] = (i - 50) / 50;
    y[i] = 2 * x[i] + 3 + 0.25 * (Math.random() - 0.5);
}

// Create a model
const regression = new ML.SimpleLinearRegression(x, y);

// Get results
console.log(regression.predict(0));
console.log(regression.computeX(0));
console.log(regression);

2.996928895134273
-1.4764307665291265
SimpleLinearRegression {
  slope: 2.0298472255354145,
  intercept: 2.996928895134273,
  coefficients: [ 2.996928895134273, 2.0298472255354145 ] }

En el ejemplo se puede ver que como las predicciones se pueden realizar mediante el método predict(). Además de ello es posible obtener el valor de la explicativa a partir de una predicción. Finalmente, si se imprime el objeto por pantalla es posible ver los parámetros del modelo.

La regresión lineal múltiple

La regresión lineal múltiple ofrece más grados de libertad, con lo que es posible crear modelos más complejos. En ml.js el constructor que se puede utilizar para crear estos modelos es ML.MultivariateLinearRegression. Al igual que en el caso anterior para la construcción del objeto se ha de indicar solamente las variables explicativas y la dependiente. Un ejemplo se puede ver en siguiente trozo de código.

const ML = require('ml');

// Create features
var x = [
    [0, 0],
    [1, 2],
    [2, 3],
    [3, 4]
];

var y = [];

for (var i = 0; i < 4; ++i) {
    y[i] = [2 * x[i][0] + 1 * x[i][1] + 2];
}

// Create a model
const mlr = new ML.MultivariateLinearRegression(x, y);

// Get results
console.log(mlr.predict([3, 3]));
console.log(mlr);

[ 11.000000000000004 ]
MultivariateLinearRegression {
  statistics: true,
  weights:
   [ [ 2.0000000000000036 ],
     [ 0.9999999999999964 ],
     [ 2.0000000000000036 ] ],
  inputs: 2,
  outputs: 1,
  intercept: true,
  stdError: 3.552713678800501e-15,
  stdErrorMatrix:
   Matrix [
     [ 7.362701782062837e-29,
       -5.469435609532392e-29,
       1.2621774483536279e-29 ],
     [ -5.469435609532391e-29,
       4.20725816117876e-29,
       -1.2621774483536253e-29 ],
     [ 1.2621774483536276e-29,
       -1.2621774483536248e-29,
       1.26217744835362e-29 ],
     rows: 3,
     columns: 3 ],
  stdErrors:
   [ 8.580618731806487e-15,
     6.486338074120682e-15,
     3.5527136788005025e-15 ],
  tStats: [ 233083424693657.4, 154170194117666.47, 562949953421312.8 ] }

Al igual que el la regresión lineal simple se dispone el objeto dispone del método predict() para llevar a cabo las predicciones.

El constructor tiene una peculiaridad. En el caso de que se indique más de una variable dependiente se creará un modelo para cada una. Algo que se puede apreciar en el siguiente ejemplo.

const ML = require('ml');

// Create features
var x = [
    [0, 0],
    [1, 2],
    [2, 3],
    [3, 4]
];

var y = [];

for (var i = 0; i < 4; ++i) {
    y[i] = [2 * x[i][0] + 1 * x[i][1] + 2, 1 * x[i][0] + 3 * x[i][1] + 1, 3 * x[i][0] + 2 * x[i][1] + 0];
}

const mlr = new ML.MultivariateLinearRegression(x, y);

console.log(mlr.predict([3, 3]));

[ 11.000000000000004, 12.999999999999996, 14.999999999999998 ]

Conclusiones

En esta entrada se ha visto cómo implementar modelo de regresión lineal en JavaScript con la librea ml.js. Aunque solamente se ha visto la regresión lineal simple y múltiple en la librería existe más constructores que implementan diferentes modelos de regresión.

Imágenes: Pixabay (Gerd Altmann)