DE AGUA, HARINA Y SAL (Prólogo del libro Estupidez artificial)
Por el lejano valle del Wakhan, más allá de los montes de Hindú Kush, caminaba el sabio sufí conocido por todos como el Gran Yusuf ibn Tarum. En la cercana comunidad de Ishkashim se enteraron de la presencia por la zona del gran maestro y salieron por los caminos a su encuentro. Cuando dieron con él, le llamaron y le pidieron que pasara unos días con ellos. El maestro accedió y les acompañó hasta su aldea.
Al día siguiente toda la comunidad se reunió en la plaza para escuchar las sabias palabras del Gran Yusuf ibn Tarum. El líder de la comunidad se puso en pie para pedir al maestro por sus enseñanzas.
- Gran Yusuf ibn Tarum, sabemos de vuestra grandeza, de vuestra gran sabiduría y que estáis tocado por un espíritu de revelación. Nosotros somos una comunidad pequeña y es posible que nunca hayáis oído hablar de nosotros, de nuestra dedicación y búsqueda de la verdad. Por ello, gran maestro, antes de escuchar vuestras sabias palabras, dejadnos que os contemos nuestro pensamiento y forma de obrar para alcanzar la perfección, de tal forma que podáis confirmar, refutar o completar nuestras ideas.
El Gran Yusuf ibn Tarum se puso en pie e interrumpió al líder, cuando éste se disponía a explicar su escuela de pensamiento. Al momento se puso a contar las ideas que preocupaban a aquella comunidad, los pensamientos que les hacían errar, las dudas que tenían y cómo intentaban superar sus dificultades. Todos quedaron asombrados de cómo el gran maestro sabía tanto sobre ellos, siendo como eran una comunidad tan modesta y desconocida,
Cuando terminó, el líder de la comunidad se levantó de nuevo y alabó las palabras del maestro:
- ¡Oh, Gran Yusuf ibn Tarum! Es asombroso lo que hemos visto. Se nota que con certeza os acompaña un espíritu de revelación, y así conocéis aquello que a otros se les oculta. Decidnos, gran maestro, cuál es el camino para tal perfección de sabiduría.
El maestro se quedó callado. Se hizo un silencio en la aldea. Tras unos segundos de expectación, pidió que le trajeran un cuenco de barro y agua, harina y sal. En el cuenco echó el agua, la harina y la sal. Lo removió bien y preguntó al líder.
- Dime, ¿de qué está hecha esta mezcla?
- De agua, harina y sal.
- ¿Cómo lo sabes?
- Porque conozco los ingredientes, gran maestro. Si conoces los ingredientes de una mezcla, eres capaz de conocer la naturaleza de la mezcla.
- Así ocurre con la naturaleza humana. Conozco vuestros pensamientos porque conozco los ingredientes de la naturaleza humana[i].
Conocer los ingredientes de la mezcla para evitar la estupidez artificial. ¿Qué ingredientes? ¿Qué mezcla? ¿Qué estupidez? Empecemos por eso de la estupidez, que siempre es más simpático.
La inteligencia artificial viene precedida de amenazas, pero también promete esperanzas. Alcanzar las esperanzas o hacer realidad las amenazas es algo que depende de nosotros. De nuestra actuación, es decir, de nuestra inteligencia o de nuestra estupidez.
La estupidez artificial es aquel comportamiento que anula nuestra autonomía cuando usamos la inteligencia artificial. Es cuando decidimos dejar de ser responsables, porque abandonamos nuestra capacidad de responder y dejamos que la inteligencia artificial responda por nosotros. Estupidez artificial es argumentar con frases del estilo “lo dice el sistema”, “el algoritmo ha determinado que…”, o, la mejor de todas, “la inteligencia artificial ha decidido…”. ¡¿Cómo?! ¡Y tú qué! ¿Tú qué dices, que determinas o qué decides? En todas estas frases falta un yo que responde, y en su lugar se traslada la respuesta a un algoritmo.
El primer paso para ser ético no es tanto ser buena persona. El primer paso es tener la voluntad de responder de tus actos ante ti y ante los demás. Delegar la respuesta de tus actos en una inteligencia artificial es abandonar toda responsabilidad. Es dejar de ser ético. Es estupidez artificial. ¿Cómo evitarlo? Conociendo los ingredientes de la mezcla.
La inteligencia artificial es muy compleja de entender. Tanto, que parece magia. ¡Cómo es posible que haga lo que nosotros hacemos! Sin embargo, cuando conoces un truco de magia, carece de emoción. Hubo un tiempo en el que parecía magia que los mensajes fueran instantáneos con el telégrafo, o que el teléfono transportara la voz. También en el pasado tuvimos miedo del tren. Se pensó que nos volvería locos. Hoy estos inventos no nos asombran. Si conocemos los ingredientes, conoceremos la mezcla y lo entendemos todo. Pero en este juego de la inteligencia artificial no hay una mezcla, sino dos: la mezcla de la inteligencia artificial y nuestra mezcla; sí, nosotros mismos.
Te propongo conocer los ingredientes de la inteligencia artificial para quitarle todo atisbo de divinidad. Si queremos usar bien una herramienta tenemos que saber algo sobre cómo funciona. No sabemos construir un coche, pero sabemos por qué se mueve. No sabemos pilotar un avión, pero sabemos que no vuela por una ciencia desconocida. Hoy vemos que la inteligencia artificial es capaz de entendernos, de hablar, de decidir una ruta, de diagnosticar una enfermedad, de escribir un poema o pintar un cuadro. ¡Magia! Nada de eso. Basta conocer sus elementos básicos. Si conocemos los ingredientes de la mezcla de la inteligencia artificial, sabremos usarla, y empezaremos a alejarnos de la estupidez artificial.
También propongo conocer nuestra mezcla. Saber de nosotros, si nuestros ingredientes son los mismos que los de la inteligencia artificial, y cómo respondemos de lo que hacemos. Este libro tiene algo de filosofía y algo de ética. Quizás pienses que la filosofía no sirve para nada, porque no lleva a conclusiones prácticas. Tienes parte de razón en ello, porque en ocasiones los textos filosóficos no hay quien los entienda. Pero la filosofía te hace pensar, y pensar te ayuda a ser libre. ¿Hay algo más práctico que ser libre?
Te propongo dos objetivos con este libro: conocer y actuar. Conocer los ingredientes para conocer la mezcla. Conocer para actuar, lejos de la estupidez artificial.
Para ello en cada capítulo de este libro intentaré ir respondiendo a una serie de preguntas que nos permitirán ir avanzando poco a poco.
- ¿Debemos tener miedo de la inteligencia artificial? ¿Cuáles son los verdaderos riesgos éticos de la inteligencia artificial?
- ¿Cómo funciona la inteligencia artificial?
- ¿Es la inteligencia artificial igual a nosotros?
- ¿Es posible tener una inteligencia artificial ética?
- ¿Qué deben hacer las organizaciones para tener una inteligencia artificial ética? ¿Qué debemos hacer nosotros?
Al final de cada capítulo te daré mi respuesta. Pero solo será mi respuesta, que no las tuyas. Saca tu espíritu crítico y busca tu punto de vista.
En la historia del gran maestro sufí Yusuf ibn Tarum hay dos posibles relatos. En uno de ellos, la inteligencia artificial es quien conoce nuestra mezcla, y sabe de nosotros, de cómo actuamos. Estupidez artificial. En el otro escenario, nosotros conocemos la mezcla de la inteligencia artificial y sabemos cómo usarla. Sabiduría natural. Este libro te propone pensar y actuar para hacer realidad este segundo relato.