50 vueltas al sol del Sargento Pimienta
50 vueltas al sol del Sargento Pimienta
Algoritmos responsables para la Inteligencia Artificial
La idea que se encuentra detrás del famoso álbum de los Beatles “Sgt. Pepper’s Lonely Hearts Club Band” quizá no sea muy distinta de lo que vivimos hoy con la tecnología y en particular con la inteligencia artificial. Hacia finales de 1966 el aclamado grupo de Liverpool estaba cansado de las giras multitudinarias y de “hacer música ligera para gente ligera”. Querían dejar de ser los Beatles, al menos tal y como se les conocía. Se tomaron unos meses de vacaciones y a su regreso decidieron hacer una música totalmente nueva, compuesta por un grupo totalmente nuevo: ese grupo era la Banda del Club de los Corazones Solitarios del Sargento Pimienta. Una banda con unos personajes ficticios, al mando de un no menos ficticio Sargento Pimienta, que representaban lo que ahora querían ser. De ahí surgió la novedosa portada, donde los Beatles aparecen renovados (ahora diríamos, “reinventados”), vestidos en un cierto estilo pop-marcial. “Sgt. Pepper’s Lonely Hearts Club Band” es una obra maestra de la música, por su arte y su innovación, y una premonición de nuestros días.
Actualmente la tecnología también nos permite alejarnos de nuestra realidad y dejar de ser quien somos. En las redes sociales podemos vivir una vida virtual completamente ajena a nuestro día a día. Si queremos, podemos ser cualquier sargento Pimienta; basta con asignarnos dicho perfil en cualquier cuenta de Twitter, Facebook o Google+. Nadie nos va a preguntar por qué. El sueño de los Beatles de querer dejar de ser quien eres es hoy más fácil.
¿Y la Inteligencia Artificial, es quizá un deseo guiado de dejar de ser humanos? Interesante cuestión, cuya respuesta quizá escape del propósito de este artículo. No obstante, sin atender a la razón que se oculta tras nuestro ímpetu con la inteligencia artificial, sí es bueno considerar sus consecuencias.
Detrás de la inteligencia artificial, ya sea un robot, una machine learning o un chatbot, se encuentra un alter ego nuestro, un cierto Sargento Pimienta, que de una forma u otra toma decisiones en nuestro nombre. El caso más claro lo tenemos en los coches autónomos, donde un Sargento Pimenta al volante decide si atropellar a un viandante o salvar al ocupante de su vehículo en una situación de emergencia.
¿Es la inteligencia artificial un deseo guiado de dejar de ser humanos?
Cuando los Beatles publicaron su álbum de la banda del sargento Pimienta, explicaron por qué lo hacían: estaban cansados de ser los Beatles, cansados de hacer música ligera vestidos de niños bien; ahora querían experimentar con nuevos estilos, nuevos instrumentos y nuevas técnicas de grabación. Si utilizamos la inteligencia artificial también debemos explicar por qué lo hacemos y, sobre todo, cómo funciona. Debemos saber por qué un sistema toma una decisión en detrimento de otra.
Esto se conoce como “algoritmos responsables”. Consiste en la definición de una serie de principios que ayuden a los diseñadores a crear sistemas inteligentes socialmente responsables. Con buen juicio rechazan el argumento irresponsable que se excusa diciendo “el sistema decidió hacer…”; pues detrás de todo sistema (o sargento pimienta) hay una persona real que ha decidido la respuesta de su algoritmo. Para ello un conjunto de empresas relevantes en el mundo del software han creado los siguientes cinco principios para el desarrollo de algoritmos responsables:
- Responsabilidad: para cada sistema inteligente debe existir una persona responsable del mismo, capaz de resolver incidencias (técnicas o sociales) en un tiempo adecuado. No es tanto una responsabilidad jurídica, sino una responsabilidad de actuación en tiempo y forma ante un evento con impacto social.
- Explicación: cualquier decisión tomada por un sistema inteligente debe poder explicarla a las personas afectadas.
- Precisión: los sistemas inteligentes cometen errores, ya sea por defecto en sus datos de entrada o por incertidumbre en su tratamiento estadístico. Un algoritmo preciso implica un exhaustivo análisis de los datos de entrada y de la lógica subyacente, hasta entender la naturaleza de cualquier error.
- Auditable: cualquier algoritmo debe poder ser auditado por terceras partes con el propósito de probar y revisar su comportamiento esperado.
- Imparcialidad: los sistemas inteligentes toman decisiones en base a datos históricos, los cuales pueden estar sesgados por comportamientos inapropiados. Cualquier decisión tomada por un algoritmo responsable debe estar libre de todo tipo de discriminación y sus criterios de decisión en este sentido deben ser públicos.
Poner esto en práctica no es solo cuestión de un grupo técnico de desarrolladores. Estos principios de responsabilidad algorítmica sólo se sustentan con un sistema de gestión que asigne las responsabilidades debidas y establezca los procesos adecuados. Por ejemplo, determinando quién es ese responsable último de la respuesta de un sistema inteligente y cómo soluciona en un tiempo adecuado si dicho sistema presenta un comportamiento inadecuado; o bien cómo se puede auditar un algoritmo, por quién y con qué consecuencias; o finalmente, quién y cómo explica el comportamiento de nuestro Sargento Pimienta cuando éste parece tomar ciertas decisiones.
Los Beatles publicaron el disco “Sgt. Pepper’s Lonely Hearts Club Band” en 1967, es decir, hace 50 años. Se da la circunstancia, menos memorable, que ese mismo año nací yo. Desde entonces he dado 50 vueltas al sol, viendo cómo la tecnología juega con una naturaleza humana que siempre busca lo mismo. Ahora tenemos el reto de la inteligencia artificial: reto más social y de gestión que tecnológico. En ello estaremos las próximas 50 vueltas y más.
Publicado en Computer World Red de Conocimiento