El campo del machine learning ha avanzado significativamente en las últimas décadas, siendo crucial en diversas aplicaciones, desde la predicción de comportamientos hasta el desarrollo de sistemas autónomos. Sin embargo, existen problemas y desafíos que pueden afectar tanto a la eficacia como a la aplicabilidad de los modelos de machine learning. A continuación, se exploran algunos de los problemas más comunes.

Generalización

Se refiere a la habilidad del algoritmo para devolver predicciones adecuadas para una instancia nueva o no conocida para el modelo. Para llegar a esto se parte de las siguientes suposiciones:

• Los datos que el modelo no conoce (test data) tendrán las mismas propiedades que el conjunto de datos usado para entrenar
• Si un modelo es preciso con datos de entrenamiento también lo será con datos de prueba, pero esto posiblemente no pase si el modelo entrenado es muy específico y se apega mucho a los datos de entrenamiento.

Sobreajuste (overfitting)

Uno de los problemas más comunes en machine learning es el sobreajuste, que ocurre cuando un modelo aprende demasiado bien los detalles y el ruido de los datos de entrenamiento, en lugar de generalizar sobre los datos que no ha visto antes. Esto significa que el modelo puede tener un rendimiento excelente en los datos de entrenamiento, pero su desempeño en datos nuevos o no vistos es pobre. El sobreajuste es más probable cuando el modelo es demasiado complejo o cuando los datos de entrenamiento son insuficientes o no representativos (James, Witten, Hastie, & Tibshirani, 2013).

Cuando los modelos son demasiado complejos para la cantidad de datos que se tiene disponible tienden a sobreajustar y no generalizar correctamente nuevos ejemplos. La siguiente imagen ilustra el problema de overfitting en un ejercicio de regresión

Si el modelo predice los mismos valores o valores muy parecidos a los que tiene la variable target y no puede generalizar correctamente, se dice que el modelo tiene problemas de overfitting.

Subajuste (underfitting)

El underfitting o subajuste ocurre cuando un modelo no logra captar la complejidad subyacente en los datos. Este problema se presenta cuando el modelo es demasiado simple para representar adecuadamente las relaciones entre las variables. Como resultado, el modelo muestra un mal desempeño tanto en los datos de entrenamiento como en los datos de prueba. El subajuste es típico cuando se emplean modelos demasiado sencillos o cuando no se entrenan adecuadamente (Hastie, Tibshirani, & Friedman, 2009).

Cuando los modelos son tan simples, que no llegan ni siquiera a performar bien en los datos de entrenamiento, se dice que estos modelos tienen un subajuste y en consecuencia no generalizan bien. La siguiente imagen ilustra el problema del subajuste para un ejercicio básico de clasificación.

La siguiente imagen muestra una clasificación de los puntos bastante simple, ya que no llega a determinar los patrones en los datos. En este caso, la línea que separa los puntos debería tener cierto nivel de inclinación a la derecha.

En la siguiente figura se aprecia un modelo con una buena clasificación, pues logra encontrar los patrones escondidos en los datos y adicionalmente ignora el hecho de que pueden existir errores mínimos de clasificación (es el caso del punto rojo clasificado como negativo y algunos puntos azules clasificados como positivos).

Falta de datos de calidad

El rendimiento de un modelo de machine learning depende en gran medida de la calidad de los datos con los que se entrena. Si los datos están sesgados, incompletos o contienen errores, el modelo aprenderá patrones incorrectos o inapropiados. La falta de datos representativos o diversos también puede llevar a que el modelo no generalice bien a situaciones del mundo real, lo que limita su aplicabilidad y efectividad (Deng & Yu, 2014).

Datos faltantes en registros

• Un ejemplo común de falta de datos ocurre cuando algunas observaciones carecen de valores en ciertas características. Por ejemplo, en un conjunto de datos médicos es posible que las mediciones de presión arterial no estén registradas para algunos pacientes, debido a errores de registro o a condiciones específicas de los pacientes. Esta carencia puede llevar a problemas durante el entrenamiento, ya que el modelo no tiene información completa para aprender las relaciones entre las variables dependientes e independientes (García et al., 2022).
•  

Distribución de datos no representativa

• Cuando los datos de entrenamiento no reflejan adecuadamente la población objetivo, el modelo puede ser parcial o ineficaz. Por ejemplo, un modelo de clasificación de correos electrónicos como spam entrenado exclusivamente con datos de usuarios de una región específica, como Estados Unidos, podría fallar al aplicarse en regiones con diferentes patrones lingüísticos o culturales. Este problema es particularmente relevante en aplicaciones globales de machine learning (Smith & Johnson, 2020).

Variables con alta proporción de valores ausentes

• En muchos datasets, algunas variables tienen una proporción significativa de datos faltantes. Por ejemplo, en conjuntos de datos inmobiliarios, la columna 'fecha de renovación' podría estar vacía en más del 50 % de los registros, debido a que no todas las propiedades se han renovado. Este escenario puede hacer que la variable sea inútil para el modelo o que se requieran técnicas complejas de imputación (Zhang et al., 2021).
•  

Datos históricos incompletos

• En aplicaciones donde se analizan series temporales, como la previsión de demanda o análisis de tráfico, es común encontrar lagunas en los registros históricos. Por ejemplo, los datos de ventas de un comercio podrían estar incompletos debido a fallos en los sistemas de recolección de datos o errores humanos. Estas lagunas pueden complicar la identificación de patrones temporales y reducir la eficacia del modelo (Hernández et al., 2019).
•  

Desbalanceo de clases

• En tareas de clasificación, como la detección de fraudes, el desbalanceo de clases es una forma de falta de datos que ocurre cuando una clase está representada significativamente menos que otra. Por ejemplo, en un conjunto de datos de transacciones bancarias, los casos de fraude suelen ser escasos en comparación con las transacciones legítimas, lo que puede llevar a que el modelo tenga dificultades para identificar correctamente las instancias minoritarias (Fernández et al., 2020).
•  

Problemas éticos y de privacidad

Los sistemas de machine learning pueden generar preocupaciones éticas, especialmente en áreas como la toma de decisiones autónoma y el uso de datos personales. Por ejemplo, los algoritmos pueden aprender y perpetuar sesgos sociales y raciales presentes en los datos, lo que puede dar lugar a decisiones discriminatorias. Además, la recolección y el uso de grandes volúmenes de datos personales plantean serias inquietudes sobre la privacidad y la protección de la información (O'Neil, 2016).

Interpretabilidad

Uno de los principales desafíos actuales en el campo de machine learning es la falta de interpretabilidad en muchos modelos, especialmente en los basados en redes neuronales profundas (deep learning). La 'caja negra' de estos modelos dificulta la comprensión de cómo se toman las decisiones, esto limita su implementación en sectores que requieren explicaciones claras, como la medicina y las finanzas. La falta de transparencia puede generar desconfianza entre los usuarios y reducir la aceptación de estas tecnologías en aplicaciones críticas (Ribeiro, Singh, & Guestrin, 2016).

En la siguiente figura se muestra un boxplot, es un gráfico muy ilustrativo y muy fácil de usar.

Escalabilidad y consumo de recursos

Los modelos de machine learning, especialmente los más complejos, pueden requerir grandes cantidades de datos y recursos computacionales. El entrenamiento de modelos avanzados, como las redes neuronales profundas, demanda un poder de cómputo significativo y tiempo de procesamiento. Esto puede resultar en altos costos operativos y dificultar la implementación de modelos en entornos con recursos limitados (Goodfellow, Bengio, & Courville, 2016).

Generalización a nuevas situaciones

La capacidad de un modelo para generalizar nuevas situaciones o datos no vistos es uno de los problemas clave en machine learning. A pesar de los avances en el desarrollo de algoritmos, muchos modelos aún tienen dificultades para adaptarse a cambios en los datos o a situaciones no representadas en los datos de entrenamiento. Esto es especialmente problemático en aplicaciones en las que las condiciones cambian rápidamente, como en la predicción de tendencias del mercado financiero o en el control de sistemas autónomos (Schmidhuber, 2015).

Aspectos interesantes el machine learning

El trade-off entre la capacidad predictiva y la capacidad descriptiva de un modelo de machine learning

• La siguiente ilustración muestra los diferentes tipos de analítica en función del valor que brinda al usuario y de la complejidad.

En el campo del aprendizaje automático (machine learning), uno de los dilemas fundamentales a la hora de construir un modelo es el trade-off entre la capacidad predictiva y la capacidad descriptiva del modelo. Este dilema implica una elección entre la precisión en la predicción de futuros resultados y la capacidad de entender y explicar los patrones subyacentes en los datos. En este contexto, es esencial comprender cómo estos dos objetivos pueden influir en la construcción y evaluación de modelos de machine learning.

Capacidad predictiva

La capacidad predictiva de un modelo se refiere a su habilidad para generar predicciones precisas sobre datos no observados previamente. Es decir, un modelo con alta capacidad predictiva es capaz de generalizar correctamente a nuevos datos, lo que significa que puede hacer predicciones con un bajo error de generalización. Este tipo de modelo es fundamental cuando el objetivo principal es predecir ciertos resultados de manera eficiente, sin importar si los datos subyacentes son complejos o no.

Modelos como las redes neuronales profundas, los árboles de decisión o los métodos de ensemble son ejemplos de modelos con alta capacidad predictiva, ya que tienen la capacidad de capturar patrones complejos en los datos. Sin embargo, uno de los costos de estos modelos más complejos es que suelen ser menos interpretables, lo que dificulta la comprensión directa de las relaciones entre las variables.

Capacidad descriptiva

La capacidad descriptiva de un modelo se centra en la habilidad de explicar las relaciones entre las variables en un conjunto de datos. Un modelo descriptivo tiene como objetivo proporcionar una visión clara de cómo las diferentes características de los datos afectan a la variable objetivo. Esto es fundamental en contextos donde el objetivo es comprender los mecanismos detrás de los datos más que simplemente hacer predicciones.

Modelos como la regresión lineal o los modelos de árboles de decisión simples son ejemplos típicos de modelos descriptivos. Estos son fáciles de interpretar, ya que sus resultados pueden explicarse en términos de coeficientes o divisiones claras entre las características. Sin embargo, su capacidad para capturar patrones complejos en los datos es limitada, lo que puede afectar su rendimiento en términos de predicción.

El trade-off: descripción vs. predicción

El trade-off entre la capacidad predictiva y la capacidad descriptiva surge cuando los modelos más complejos, que son mejores para la predicción, pierden capacidad explicativa. A medida que se aumenta la complejidad del modelo, su habilidad para generalizar y hacer predicciones más precisas mejora, pero la capacidad de describir e interpretar las relaciones subyacentes se reduce.

Por ejemplo, en modelos como las redes neuronales profundas, aunque se pueden obtener predicciones de alta calidad, es muy difícil entender cómo las características del modelo influyen en los resultados, lo que limita su capacidad descriptiva. En cambio, modelos más simples, como la regresión lineal o los árboles de decisión pequeños, pueden proporcionar una interpretación clara de las relaciones entre las variables, pero podrían no ser tan efectivos en capturar patrones complejos o no lineales en los datos.

Este trade-off también se ve reflejado en la problemática del sobreajuste (overfitting), donde un modelo demasiado complejo puede ajustarse demasiado bien a los datos de entrenamiento, mejorando su capacidad predictiva, pero perdiendo capacidad de generalización a nuevos datos.

Es un algoritmo de machine learning que puede ser usado tanto para clasificación como para regresión. Para modelos de clasificación, el algoritmo k–vecinos más cercanos funciona de la siguiente manera:

Dado un conjunto de entrenamiento X_train con labels y_train, y dada una instancia de datos a ser clasificada x_test, los pasos son los siguientes:

• Buscar las instancias más similares (las cuales las llamaremos X_NN) a x_test que se encuentran en X_train.
• Obtener los labels y_NN para cada una de las instancias en X_NN.
• Predecir el label para x_test combinando los labels y_NN e.g. Por mayoría de votos.

El siguiente gráfico muestra un espacio de dos dimensiones para un problema de clasificación, si tenemos un registro nuevo, por ejemplo, las 'x' en el gráfico se le asignará la clasificación (0 o 1) de la instancia que se encuentre más próxima a ellos. En este caso, ambos puntos serán clasificados como clase 1. Este concepto aplica tanto para modelos de clasificación como para modelos de regresión.

• Algunos parámetros importantes para considerar tanto en modelos de clasificación como en regresión usando el algoritmo k – vecinos más cercanos:
•  
• La siguiente infografía muestra una estrategia para evitar la creación de modelos demasiado complejos:
•  

Complejidad de los modelos

• n_neighbors: número de k–vecinos más cercanos a considerar, por defecto en la implementación de Python se usa el valor de 5.

Model fitting

• metric: función de distancia entre los puntos de datos: por defecto. en la implementación de Python se usa la distancia de Minkowski.

K vecinos más cercanos, aplicación