Algoritmos responsables para la Inteligencia Artificial

La idea que se encuentra detrás del famoso álbum de los Beatles “Sgt. Pepper’s Lonely Hearts Club Band” quizá no sea muy distinta de lo que vivimos hoy con la tecnología y en particular con la inteligencia artificial. Hacia finales de 1966 el aclamado grupo de Liverpool estaba cansado de las giras multitudinarias y de “hacer música ligera para gente ligera”. Querían dejar de ser los Beatles, al menos tal y como se les conocía. Se tomaron unos meses de vacaciones y a su regreso decidieron hacer una música totalmente nueva, compuesta por un grupo totalmente nuevo: ese grupo era la Banda del Club de los Corazones Solitarios del Sargento Pimienta. Una banda con unos personajes ficticios, al mando de un no menos ficticio Sargento Pimienta, que representaban lo que ahora querían ser. De ahí surgió la novedosa portada, donde los Beatles aparecen renovados (ahora diríamos, “reinventados”), vestidos en un cierto estilo pop-marcial. “Sgt. Pepper’s Lonely Hearts Club Band” es una obra maestra de la música, por su arte y su innovación, y una premonición de nuestros días.

Actualmente la tecnología también nos permite alejarnos de nuestra realidad y dejar de ser quien somos. En las redes sociales podemos vivir una vida virtual completamente ajena a nuestro día a día. Si queremos, podemos ser cualquier sargento Pimienta; basta con asignarnos dicho perfil en cualquier cuenta de Twitter, Facebook o Google+. Nadie nos va a preguntar por qué. El sueño de los Beatles de querer dejar de ser quien eres es hoy más fácil.

¿Y la Inteligencia Artificial, es quizá un deseo guiado de dejar de ser humanos? Interesante cuestión, cuya respuesta quizá escape del propósito de este artículo. No obstante, sin atender a la razón que se oculta tras nuestro ímpetu con la inteligencia artificial, sí es bueno considerar sus consecuencias.

Detrás de la inteligencia artificial, ya sea un robot, una machine learning o un chatbot, se encuentra un alter ego nuestro, un cierto Sargento Pimienta, que de una forma u otra toma decisiones en nuestro nombre. El caso más claro lo tenemos en los coches autónomos, donde un Sargento Pimenta al volante decide si atropellar a un viandante o salvar al ocupante de su vehículo en una situación de emergencia.

¿Es la inteligencia artificial un deseo guiado de dejar de ser humanos?

Cuando los Beatles publicaron su álbum de la banda del sargento Pimienta, explicaron por qué lo hacían: estaban cansados de ser los Beatles, cansados de hacer música ligera vestidos de niños bien; ahora querían experimentar con nuevos estilos, nuevos instrumentos y nuevas técnicas de grabación. Si utilizamos la inteligencia artificial también debemos explicar por qué lo hacemos y, sobre todo, cómo funciona. Debemos saber por qué un sistema toma una decisión en detrimento de otra.

Esto se conoce como “algoritmos responsables”. Consiste en la definición de una serie de principios que ayuden a los diseñadores a crear sistemas inteligentes socialmente responsables. Con buen juicio rechazan el argumento irresponsable que se excusa diciendo “el sistema decidió hacer…”; pues detrás de todo sistema (o sargento pimienta) hay una persona real que ha decidido la respuesta de su algoritmo. Para ello un conjunto de empresas relevantes en el mundo del software han creado los siguientes cinco principios para el desarrollo de algoritmos responsables:

• Responsabilidad: para cada sistema inteligente debe existir una persona responsable del mismo, capaz de resolver incidencias (técnicas o sociales) en un tiempo adecuado. No es tanto una responsabilidad jurídica, sino una responsabilidad de actuación en tiempo y forma ante un evento con impacto social.
• Explicación: cualquier decisión tomada por un sistema inteligente debe poder explicarla a las personas afectadas.
• Precisión: los sistemas inteligentes cometen errores, ya sea por defecto en sus datos de entrada o por incertidumbre en su tratamiento estadístico. Un algoritmo preciso implica un exhaustivo análisis de los datos de entrada y de la lógica subyacente, hasta entender la naturaleza de cualquier error.
• Auditable: cualquier algoritmo debe poder ser auditado por terceras partes con el propósito de probar y revisar su comportamiento esperado.
• Imparcialidad: los sistemas inteligentes toman decisiones en base a datos históricos, los cuales pueden estar sesgados por comportamientos inapropiados. Cualquier decisión tomada por un algoritmo responsable debe estar libre de todo tipo de discriminación y sus criterios de decisión en este sentido deben ser públicos.

Poner esto en práctica no es solo cuestión de un grupo técnico de desarrolladores. Estos principios de responsabilidad algorítmica sólo se sustentan con un sistema de gestión que asigne las responsabilidades debidas y establezca los procesos adecuados. Por ejemplo, determinando quién es ese responsable último de la respuesta de un sistema inteligente y cómo soluciona en un tiempo adecuado si dicho sistema presenta un comportamiento inadecuado; o bien cómo se puede auditar un algoritmo, por quién y con qué consecuencias; o finalmente, quién y cómo explica el comportamiento de nuestro Sargento Pimienta cuando éste parece tomar ciertas decisiones.

Los Beatles publicaron el disco “Sgt. Pepper’s Lonely Hearts Club Band” en 1967, es decir, hace 50 años. Se da la circunstancia, menos memorable, que ese mismo año nací yo. Desde entonces he dado 50 vueltas al sol, viendo cómo la tecnología juega con una naturaleza humana que siempre busca lo mismo. Ahora tenemos el reto de la inteligencia artificial: reto más social y de gestión que tecnológico. En ello estaremos las próximas 50 vueltas y más.

Publicado en Computer World Red de Conocimiento

Blockchain y el algoritmo de rudimentos éticos

El pintor holandés de principios del siglo XX Theo van Doesburg tiene una obra titulada “Composición VII (Las Tres Gracias)”. La obra consiste en una serie de franjas blancas, rojas, azules y beis dispuestas en distintas posiciones sobre un fondo negro. Por tanto, si uno intenta buscar a las tres Gracias, al estilo del famoso cuadro de Rubens, no encuentra nada. Esto es lo que hace interesante la pintura de Doesburg; y esto es la grandeza del proceso creativo, el cual forma parte de la inteligencia:

Nuestro pensamiento toma como referencia una obra anterior, la reelabora y crea algo diferente.

Así funciona la inteligencia artificial, pero expresado de otro modo y en formato pobre. Existe un algoritmo (el equivalente a mente) que toma como entrada un dato existente (una obra anterior), lo procesa mediante un algoritmo (lo reelabora) y da como resultado un nuevo dato. Lo que para nosotros es creatividad, en la inteligencia artificial se llama retroalimentación. Este proceso ha hecho que recientemente un sistema inteligente de etiquetado de fotos creado en la Universidad de Virginia se volviera sexista. En aquellas fotos en las que aparecía un hombre en una cocina, etiquetaba a la persona con sexo femenino. Algo similar le ocurrió a un sistema de Google que etiquetó a personas de color como gorilas; o es famoso Tay, el robot-charlatán (chatbot) de Microsoft, que acabó escribiendo Twits alabando el buen hacer de Hitler. La inteligencia artificial puede convertirse en una obra que no podamos llegar a reconocer, como las tres gracias de Doesburg, pero sin la iluminación de un espíritu artístico. ¿Cómo podemos evitar esto?

Quizá la tecnología de cadena de bloques (block chain) nos pueda ayudar. Uno de los aspectos que se discuten hoy en día sobre la ética en la inteligencia artificial (IA) es cómo dotar a la misma de un comportamiento ético aceptable. Es decir, cómo dotar a la IA de algún tipo de algoritmo que le lleve a distinguir lo que está bien de lo que está mal. Ésa es la manzana del Jardín del Edén y por ello mi intuición me dice que ese comportamiento no es posible programarlo en un algoritmo (si fuera posible, no existiría la ética, sino una cierta fórmula matemática). No obstante, sí puede ser posible disponer un algoritmo que establezca algunos límites de comportamiento y unas directrices de actuación para los sistemas de IA: llamémoslo algoritmo de rudimentos éticos. La siguiente cuestión sería cómo garantizar que todo sistema de IA dispone de dicho algoritmo en su diseño y que éste no es modificado, o es modificado por consenso. Es aquí donde la cadena de bloques nos puede ayudar. La esencia de la cadena de bloques es la descentralización y la eliminación de intermediarios. Entre sus distintas utilidades, más allá de las transacciones monetarias, se encuentran los llamados contratos inteligentes o la computación distribuida. Un contrato inteligente es una acción que se ejecuta cuando se cumple una condición. La computación distribuida es la ejecución de algoritmos en las máquinas de los llamados mineros, que son los que garantizan la veracidad de una transacción. Ese algoritmo de rudimentos éticos puede estar distribuido en una cadena de bloques, de tal forma que nadie de manera individual pueda modificarlo (descentralización).

Además, todo sistema IA debe conectarse a él mediante contratos inteligentes, en una especie de certificación, de tal forma que se pueda producir una acción (por ejemplo, el apagado del sistema AI), si se produce un resultado no deseable de dicho sistema. En esencia, los posibles riesgos de la inteligencia artificial los tendremos que resolver entre todos y ésa es la naturaleza de la cadena bloques: el trabajo de todos, la conciencia colectiva. Quizás al ver el cuadro de Doesburg no identificamos ninguna de las tres Gracia, pero sí sentimos que estamos ante algo nuevo, sublime. En nuestra mano está que al hablar de inteligencia artificial también tengamos la sensación de estar ante algo sublime, y no sólo ante un conjunto de algoritmos que nos quitan puestos de trabajo.

Esa conciencia colectiva de la cadena de bloques puede ser un primer paso

Publicado en Digital Biz, Homo Digitalis