La supervisión humana de la IA
Cuando un algoritmo ofrece un resultado, es necesario estar seguro que es correcto y saber el porqué de tal resultado
“Que eso no se dice, que eso no se hace, que eso no se toca”. Esto es la supervisión humana que el Reino Unido ha sugerido que podría eliminar en la toma de decisiones de sistemas basados en inteligencia artificial (IA). Los versos corresponden a una vieja canción de Joan Manuel Serrat, titulada ‘Esos locos bajitos’. Hace referencia a los niños que, con mejor o peor fortuna, son educados por sus padres. Todos, en algún momento, hemos recibido esas palabras. Técnicamente hablando era la supervisión de nuestros padres en nuestros actos.
Esta misma idea de supervisión es un elemento fundamental en el uso de los sistemas inteligentes. Hay ciertas decisiones que nos afectan directamente y que pueden estar tomadas por un algoritmo de IA. Puede ser el caso de la aprobación de una hipoteca o ser contratado en una empresa. El año pasado, debido a la suspensión de los colegios por la pandemia de Covid-19, las notas de los alumnos en Reino Unido fueron asignadas por un algoritmo de IA basado en el rendimiento medio del alumno y de su instituto.
No existen decisiones automatizadas. Detrás de un algoritmo siempre hay una persona o una institución
En septiembre el Reino Unido anunció que este tipo de decisiones no tendrían por qué estar verificadas por un ser humano. Una inteligencia artificial se basta sola para saber a quién dar una hipoteca, a quién contratar o qué nota académica poner.
En contra de la UE
Este planteamiento va en contra del Reglamento General de Protección de Datos (RGPD) de la UE. En particular respecto a su artículo 22 sobre decisiones automatizadas, que establece que tenemos derecho a no ser objeto de una decisión automatizada, que tenga efectos jurídicos o nos afecte significativamente.
Una IA puede determinar que no recibamos una hipoteca. No obstante, este resultado debe ser supervisado por una persona, quien, en un momento dado, puede decirle con cariño a la IA, que eso no se dice o eso no se hace, y finalmente otorgar la hipoteca al merecido solicitante.
Eliminar esta supervisión humana significa falta de transparencia en el uso de la IA y eso no va a favorecer su desarrollo.
Dividendo del dato
¿Qué se encuentra detrás de esta eliminación de la supervisión humana en la IA? El llamado dividendo del dato. El dato es el petróleo del futuro y se quiere hacer mucho dinero con él. Como decir ‘hacer dinero’ es muy grosero, se utiliza la expresión amable ‘dividendo del dato’.
Para hacer dinero, lo mejor es no tener impedimentos. El argumento en contra de la supervisión humana es que ésta resulta complicada y poco práctica. Sin embargo, tal supervisión es posible y es necesaria.
Perder la supervisión humana de la IA es perder control de la democracia
Es posible porque para entender el resultado de una IA no es necesario investigar en las tripas del algoritmo y leer líneas y líneas de código. Tenemos tecnologías que son capaces de explicar la decisión de un algoritmo inteligente en función de sus datos de entrada.
Además, es necesaria porque todo ciudadano tiene derecho a conocer quién toma una decisión y por qué la toma. Un algoritmo nunca toma una decisión. No existen decisiones automatizadas. Detrás de un algoritmo siempre hay una persona o una institución que toma una decisión a través de un algoritmo. Si eliminamos la supervisión humana, esto llevará a la toma de decisiones por personas o grupos de interés desconocidos. Una sociedad moderna y democrática no puede abandonar su responsabilidad en la toma de decisiones que afectan a sus ciudadanos.
Existe una esperanza. El mismo gobierno del Reino Unido ha comunicado que la solución final sobre la supervisión humana no debe ir en contra de los acuerdos que tiene el país con la UE. Esto afecta a ese artículo 22 del RGPD.
Esperemos que así sea. El estribillo de la canción de Serrat también dice: “niño, deja ya de joder con la pelota”. Esperemos no quitar la supervisión humana de la IA para no acabar con tan gruesas palabras hacia un sistema inteligente.
Publicado en DigitalBiz