Metaverso: el nuevo mito de la caverna

Metaverso: el nuevo mito de la caverna

Metaverso: el nuevo mito de la caverna

El metaverso nos promete un mundo maravillo. Pero puede ser una falsa promesa

 

Todos conocemos el mito de la caverna de Platón. Unos hombres encadenados en una caverna solo pueden ver las sombras de una realidad que existe más allá. Hay otra realidad, un mundo más perfecto, más completo, al que no pueden acceder y del que solo son capaces de tener una visión reducida en forma de sombras. El metaverso acabará con esta injusticia.

El metaverso nos promete ese mundo más perfecto y completo. ¿Por qué vivir de forma sombría en un mundo lleno de problemas, cuando existe otro donde puedes hacer y ser lo que quieras? El metaverso va a romper las cadenas que nos mantienen atados a una realidad formada únicamente por sombras. ¡Por fin veremos la luz!

Esto será gracias a la inteligencia artificial (IA). Mark Zuckerberg lo anunció a finales de febrero. El metaverso estará potenciado por la IA para ofrecer, de momento, dos grandes facilidades que harán la vida en ese nuevo mundo mucho más placentera.

Nada nos tiene que hacer suponer que el metaverso será mejor que nuestra realidad

Todo metaversanio de pleno derecho podrá crear cualquier paraíso con solo describirlo en unas líneas de texto. Si escribes “quiero estar en una isla tropical leyendo a Platón” (cada uno puede pedir lo que quiera), la todopoderosa IA generará unos gráficos adecuados que te transportarán al lugar elegido.

¡Genial!, pero ¿en qué idioma se lo digo?, ¿en inglés? ¡No, en tu propio idioma! Esa es la segunda maravilla de la IA en el metaverso. No habrá barreras lingüísticas. La maldición de la torre de Babel se habrá terminado. Podrás escribir en tu idioma y la todo-traductora IA te entenderá. ¿También en bable? No sé, habrá que ver si el señor Zuckerberg lo considera adecuado en su metaverso paradisíaco.

No tan paraíso

El metaverso se nos aparece como un mundo ideal en el que refugiarnos de este mundo miserable. Pero la realidad de esta realidad virtual no es tan maravillosa. En este año 1 del metaverso ya se han detectado comportamientos abusivos contra las mujeres. Se han denunciado casos en los que las usuarias se han visto rodeadas de repente de avatares masculinos que han actuado de forma intimidatoria. O bien comportamientos individuales de acoso verbal y obsceno de metaversianos masculinos hacia sus conciudadanas virtuales. Parece que este metaverso también tiene sombras.

Esto puede ser solo el comienzo. Lo cierto es que todo aquello que hemos visto en las redes sociales es susceptible de ocurrir en el meta-maravillerso. Existe el riesgo de que también se propaguen noticias falsas; de que se fomenten las rivalidades y se propague el discurso del odio; o de que se comercie con toda la información que se genera con la actividad de un avatar, tras el cual hay una persona de carne y hueso. Si además entran en escena las criptomonedas y la posibilidad de disponer de activos mediante NFT, los amigos de la estafa estarán por medio.

Un metaverso como el nuestro

Nada nos tiene que hacer suponer que el metaverso será mejor que nuestra realidad. Nada, mientras no cambiemos nuestra realidad, es decir, mientras no cambiemos nuestra condición humana. Allí donde vayamos llevaremos lo que somos. Toda innovación viene alentada por atractivas promesas, pero no nos engañemos: el metaverso será como nuestro mundo, una mezcla de drama y comedia.

El gran guionista Zuckerberg promete una IA responsable y un metaverso transparente. ¿Habrá que creer en su buena voluntad? Quizás sea mejor disponer de mecanismos de auditoría y control suficientes para este viejo nuevo-mundo. El poder no puede recaer en una sola persona, ni en el mundo real, ni en el virtual. Allá donde construyamos una realidad deberá haber supervisión.

Para desgracia de Zuckerberg, su anuncio de fantasía de la IA se vio ensombrecido por la barbarie en Ucrania. El mundo real eclipsó el mundo virtual. La salvación de la caverna no es crear un supuesto mundo ideal, sino liberarnos de las cadenas que nos atan a nuestra condición.

Publicado en DigitalBiz

 

El valor de una IA valiente

El valor de una IA valiente

El valor de una IA valiente

La inteligencia artificial no está consiguiendo el valor esperado. La solución no está reñida con la ética. Es posible obtener valor de la IA y tener el valor de ser éticos.

Rossumovi Univerzální Roboti (Robots Universales Rossum). Así se llama la obra de teatro del autor checo Karel ?apek, estrenada hace 100 años en el Teatro Nacional de Praga, y que ha pasado a la historia por acuñar por primera vez el término robot. La historia versa sobre la empresa Rossumovi Univerzální Roboti, que se dedica a la fabricación de unos artilugios humanoides, llamados robots, que proviene de la palabra checa “robota”, que significa “esclavo. Han sido diseñados con el saludable propósito de aliviar la carga de trabajo a los sufridos humanos. Finalmente, la situación se va de las manos y los robots acaban matando a toda la humanidad, excepto a un ingeniero, porque él, igual que los robots, trabaja con las manos.

Apenas un 20% de las organizaciones que invierten en inteligencia artificial obtienen verdadero valor de la misma

Curiosa metáfora que parece un sombrío augurio, si bien veo poco probable que suceda, al menos en el corto plazo. Al igual que hemos controlado otras tecnologías, ésta de la robótica y de la inteligencia artificial también estará bajo control, aunque no sin arduo trabajo. Hoy en día el problema no son los robots, sino la inteligencia artificial, la cual añade un riesgo mayor: que la inteligencia artificial, a diferencia de los robots, no se ve. Un robot es un muñeco que ves venir; la inteligencia artificial se encuentra sumergida en miles de aplicaciones, tomando decisiones sin que lo sepamos.

Esto es una cuestión ética (la ética habla de la toma de decisiones) y por ello ahora importa menos: porque las preocupaciones éticas son para los tiempos de bonanza, cuando el exceso de presupuesto permite dedicarse a “esas otras cosas”. Pues bien, existe otra cuestión con la inteligencia artificial que quizá resulte más interesante a los comités de dirección de las organizaciones: apenas un 20% de las organizaciones que invierten en inteligencia artificial obtienen verdadero valor de la misma. Así lo revela un informe de McKinsey de finales del año pasado.

La razón de tan bajo rendimiento no es solo una cuestión tecnológica. No es tanto un problema con la integración de datos que provienen de sistemas distintos, ni con la validez de los algoritmos o con la capacidad de procesamiento. La inteligencia artificial es una tecnología que tiene un tipo de diseño particular y, en consecuencia, presenta una problemática particular asociada. Debemos saber cómo entrenar bien a los algoritmos para evitar riesgos de sesgo o de robustez; es necesario entender por qué un sistema inteligente toma una decisión en detrimento de otra (‘explicabilidad’); los sistemas de machine learning tienen métodos específicos de ataque que permiten conocer los datos fuentes o causar resultados erróneos; o bien se deben cumplir regulaciones específicas relacionadas con protección de datos.

Podemos conseguir valor de la inteligencia artificial y tener el valor de ser éticos.

La solución a estas cuestiones escapa a la pura tecnología y se dirige más a los mecanismos de gestión y de gobierno. Hablamos de obtener el compromiso de todos los niveles de dirección, para evitar islas tecnológicas; de entender qué objetivos buscamos con la IA y si somos capaces de explicarlos a la sociedad; de disponer de líderes transversales que gestionen equipos con un balance adecuado de talento interno y externo; de contar con product owners que conozcan los riesgos y oportunidades de los sistemas inteligentes; y por último, para los más atrevidos, de velar por disponer de una inteligencia artificial éticamente responsable.

Como se ve, la solución no es nueva. Consiste en saber gestionar y gobernar la tecnología, en este caso con sus particularidades. Quizás nos falte un nombre a esta solución para hacerla más atractiva y así explicar con palabras brillantes los viejos problemas de siempre. Karel ?apek supo encontrar ese nombre para estos autómatas seudo-inteligentes. Tengamos nombre o no, sugiero aplicar esta visión con un doble afán: conseguir valor de la inteligencia artificial y tener el valor de ser éticos.

Publicado en Digital Biz

 

Las maquinas trabajan, nosotros ociamos

Las maquinas trabajan, nosotros ociamos

Las maquinas trabajan, nosotros ociamos

¿La tecnología nos ayuda o nos suplanta?

“Si tienes el correo electrónico en tu móvil, terminarás antes de trabajar y disfrutarás de más tiempo libre”. Recuerdo con claridad aquellos primeros anuncios de la BlackBerry. Un joven risueño y placentero se sentaba en un vagón de metro camino de su oficina. En el trayecto del suburbano accedía a su correo electrónico, revisaba sus mensajes y respondía convenientemente a cada uno de ellos. Todo ello con tal rapidez y acierto que al finalizar el viaje ya había resuelto sus tareas diarias. No era necesario ir a la oficina. El joven audaz cambiaba su destino y concluía el resto de la jornada disfrutando de la paz de un ameno parque, vestido con de traje, pero liberado de su corbata.

O bien este joven tenía poco que hacer, o bien el anuncio era irreal. El tiempo nos ha descubierto que era lo segundo: el anuncio era una mentira. Actualmente disponemos de todas nuestras herramientas de trabajo en el móvil: correo electrónico, paquetes ofimáticos (‘ofimático’, ¡qué antiguo!), sistemas de comunicación, reuniones virtuales; sin embargo, no parece que nuestras jornadas de trabajo sean menores. La razón es clara: la dirección por objetivos significa que, si cumples tus objetivos, ya se encargarán de ponerte otros nuevos; si eres capaz de responder tus correos en el trayecto del metro, ven a la oficina que te daré nuevos correos.

La tecnología altera seriamente el trabajo. Esto ha ocurrido desde que se inventó la palanca o la polea y se necesitaban menos personas para mover un cubo de piedra. Ahora la situación parece más alarmante por virtud, o vicio, de la inteligencia artificial. El último informe de la OCDE sobre el futuro del trabajo indica que el 14% de los trabajos tiene riesgo de automatización, lo cual no es poco, si bien supone un porcentaje mucho menor que lo expresado por otros informes. Además, no vaticina un desempleo masivo por la automatización. El informe es alentador, pero es un análisis de la era pre-virus.

La tecnología altera seriamente el trabajo. Ahora la situación parece más alarmante por la inteligencia artificial

En estos tiempos coronados la situación ha cambiado en cuestión de meses. La reclusión hogareña y el cierre físico de los negocios ha incrementado la digitalización de la actividad. En particular se está potenciando el uso de la inteligencia artificial, ya sea para ganar eficiencia, y reducir costes, para generar negocio, principalmente con big data y machine learning, o bien, unido a la robótica, para realizar tareas en el mundo físico y evitar contagios.

Se acrecienta el temor a que la inteligencia artificial genere desempleo y se aviva el discurso de un ingreso básico universal que nos sustente. El mensaje atrae, porque es bonito y simple: que las máquinas trabajen, y así nosotros ociamos. Nuevo anuncio BlackBerry. La idea tiene sus defensores y detractores. Recientemente el cofundador de Twitter, Jack Dorsey, ha donado 3 millones de dólares para un programa de ingreso básico en 16 ciudades de Estados Unidos; en nuestro país, se ha implantado el ingreso mínimo vital, quizá no tanto movido por la inteligencia artificial. Por otro lado, Calum Chace, experto en inteligencia artificial, argumenta que el concepto ‘ingreso básico universal’ contiene tres palabras donde al menos una de ellas no es buena. En todo caso, vaticina que la inteligencia artificial cambiará la economía y eso parece indudable.

La tecnología nos cambia la vida, pero ahora la situación no se observa con perspectiva halagüeña. En el anuncio de la BlackBerry el mundo aparecía feliz por causa de la tecnología; ahora aparece vacío (de trabajadores) por su misma causa. Una misma causa, pero distinta consecuencia: en el primer caso la tecnología parece que “nos ayuda”, en el segundo, parece que “nos suplanta”. Con independencia de la validez de un ingreso básico universal, el matiz entre una consecuencia y otra no depende de las máquinas, sino de nosotros.

Publicado en Digital Biz

Ética a Sophia

Ética a Sophia

Ética a Sophia

Tenemos un robot peregrinando por el mundo. Se llama Sophia y en su discurrir por el mundo nos quiere mostrar sus habilidades discursivas. Es un robot humanoide, quizá una robot (¿son como los ángeles, sin sexo?) basada en inteligencia artificial (IA) que deambula de país en país, de continente en continente, ofreciendo entrevistas y respondiendo, como puede y como sabe, a las preguntas de sus interlocutores. Podemos decir que es una maravillosa máquina parlante. Puede que no la primera.
En 1845 Joseph Faber presentó en Filadelfia a Euphonia, a la que denominó maravillosa máquina parlante. Consistía en una cabeza femenina de maniquí, dispuesta en un bastidor de madera. Mediante un conjunto de teclado y pedales, accionados por el propio Faber, se hacía pasar aire por una serie de lengüetas que reproducían la voz humana a través de la cabeza del maniquí. Era capaz de hablar en cualquier idioma europeo y de cantar el himno “Dios salve a la Reina”. Al igual que Sophia, respondía a las preguntas de su público como buenamente podía; si bien, en este caso, como buenamente podía Faber.

No podemos decir que Sophia y Euphonia sean lo mismo. Euphonia no estaba basada en IA, sino más bien en inteligencia natural. Sin embargo, Sophia y Euphonia tienen algo en común; algo que caracteriza a toda IA. Sabemos que cuando Euphonia respondía, en realidad era Faber quien respondía. Si la respuesta era acertada, el mérito era de Faber; si era una locura, peligraba más bien el propio Faber. En el caso de Sophia, ¿sabemos en realidad quién responde?

Si hablamos de ética, hablamos de responsabilidad; y detrás de una IA ética hay un ser humano responsable

El sistema de reconocimiento de voz de Sophia está basado en tecnología de Alphabet, filial de Google, su sistema de procesamiento verbal en CereProc, y su sistema de IA está diseñado por Hanson Robotics. Todo esto es correcto, pero no hemos respondido a la pregunta, ¿sabemos en realidad quien responde? La ética se fundamenta en la respuesta a esta pregunta.

Si hablamos de aplicar principios éticos a la IA, debemos poder responder a esta pregunta. Porque la ética se justifica por la existencia de un ser responsable, que actúa en un sentido u otro. La ética de Euphonia es la ética de Faber; ¿de quién es la ética de Sophia? La ética en la IA no es solo una cuestión tecnológica. Si hablamos de ética, hablamos de responsabilidad; y detrás de una IA ética hay un ser humano responsable.

Publicado en Innovadores

 

Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

La preocupación por complacer o por convencer tiende a prevalecer sobre las exigencias de la razón. Y el amor al éxito, sobre el amor a la verdad. Toda democracia favorece la sofística

André Comte-Sponville

En cierta ocasión una piedra desprendida desde lo alto de un acantilado mató a un joven que estaba abajo, tranquilamente mirando el móvil junto a la playa. La piedra fue condenada por asesinato. De nada valieron los argumentos de la defensa que sostenían que la piedra estaba sujeta a la ineludible ley de la gravedad. El juez dictó que la piedra, como vehículo en movimiento, debería haber decidido de forma autónoma el desviar su trayectoria para así evitar la muerte de aquel inocente joven. Este mismo absurdo razonamiento ocurre con los vehículos de conducción autónoma.

Actualmente existe el debate de qué decisión debe tomar un vehículo autónomo cuando se encuentre ante una situación que afecte a la integridad física de las personas. Por ejemplo, cómo actuar si en su trayectoria se encuentra a una persona cruzando la calle.

Para avanzar en este debate el MIT ha creado la plataforma de crowdsourcing “Moral Machine”. El objetivo es “construir una imagen amplia (mediante «crowdsourcing») de la opinión de las personas sobre cómo las máquinas deben tomar decisiones cuando se enfrentan a dilemas morales”. Para ello el MIT propone una serie de escenarios con dilemas morales relacionados con vehículos autónomos sobre los cuales los participantes deciden soluciones.

Por ejemplo, en una calle sin escapatoria por los laterales, un coche autónomo que no puede frenar se dirige hacia un paso de cebra sobre el cual cruzan ciertos viandantes. Se plantea entonces el dilema de si el vehículo debe seguir recto y matar a los viandantes que están en su carril cruzando la calle, o desviarse y matar a aquellos que están cruzando a la altura del carril contrario. Las disyuntivas que se plantean radican en el número y tipo de personas a matar. Así, en un escenario se plantea si es mejor matar a un viandante o a las cuatro personas que viajan en el coche; o matar a una joven frente a un delincuente; o bien, a una persona atlética respecto a un anciano achacoso. Estas cuestiones tienen su peligro y merecen una reflexión.

Una máquina no se enfrenta a dilemas a morales, somos nosotros a través de las máquinas y ésa es nuestra responsabilidad

Detrás del planteamiento de tales dilemas morales se encuentra la corriente filosófica ética denominada utilitarista, según la cual está bien aquello es bueno para la mayoría. En el caso de la plataforma del MIT, la solución correcta respecto a un posible escenario (por ejemplo, si matar a un anciano o a un joven), puede depender de la opinión más votada. Así planteado, parece que dejamos la vida en manos de la solución más votada, al puro estilo de un circo romano, por ello es más moderno decir que es una solución basada en una “plataforma de crowdsourcing”. De esta forma diluimos la responsabilidad en la modernidad.

Pero además existe un segundo error. Ninguna máquina toma ninguna decisión moral; son las personas que diseñaron los algoritmos de la máquina quienes toman una decisión moral. Un vehículo autónomo es como la piedra que cayó y mató al joven en el acantilado. Así como argumentó la defensa, que la piedra estaba sujeta a la ineludible ley de la gravedad, de la misma forma el vehículo autónomo está sujeto a la ineludible ley (o leyes) del algoritmo que algún ingeniero le programó. Ni la piedra es “autónoma”, ni el vehículo tampoco. Una máquina no se enfrenta a dilemas a morales, somos nosotros quienes nos enfrentamos a ellos a través de las máquinas y ésa es nuestra responsabilidad.

Todo esto nos lleva a una serie de preguntas a las cuales debemos dar respuesta antes de ponernos a programar: ¿es la moral una cuestión de democracia? ¿es el bien y el mal una cuestión de votos? ¿es siempre única la respuesta ante una pregunta ética?, y, en consecuencia, ¿podemos reducir las cuestiones éticas a fórmulas matemáticas, y por tanto a algoritmos? Hace falta más Kant y menos Watson.

Publicado en digitalbiz

 

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Organizaciones Autónomas Descentralizadas

 

Inteligencia, carácter y deseo: según Platón, estos son los tres elementos del alma humana, y son, por tanto, los tres elementos que deben configurar la ciudad perfecta. Una ciudad, que, a semejanza del alma, estará dividida en tres estamentos: los filósofos, los guardianes y los obreros. Cada uno de ellos deberá cultivar la virtud que más se adecua a su función: los filósofos desarrollarán la sabiduría, pues ellos deben gobernar; los guardianes, el valor, para proteger y defender la ciudad; y los obreros, la templanza, como corresponde a quienes deben trabajar para los dos estamentos superiores y obedecer las leyes.

Esta visión nos parece lejana y también superada. Recuerda a “Un mundo feliz” de Aldous Huxley, que está lejos de ser verdaderamente un mundo feliz. Pero no es una visión tan lejana. De alguna forma se encuentra en las tendencias actuales que cifran en la tecnología la solución buena a todos nuestros males, toda vez que consigamos que las personas intervengan lo menos posible y todo sea hecho mediante máquinas y algoritmos ecuánimes. Es el caso de las llamadas Organizaciones Autónomas Descentralizadas (DAO, por sus siglas en inglés), basadas en la cadena de bloques (blockchain).

Estas organizaciones se denominan “autónomas” por cuanto pueden operar sin la mediación de personas. ¿Cómo? Mediante la realización de transacciones controladas por contratos inteligentes. Son “descentralizadas” porque el control de dichas transacciones se confía en la cadena de bloques. Por tanto, los contratos inteligentes actúan a modo de procesos, o reglas que rigen la organización, mientras que el negocio en sí de tal organización es la ejecución de ciertas transacciones.

Un ejemplo de organización DAO lo tenemos en la empresa The DAO, creada en abril de 2016 sobre la plataforma Ethereum como una empresa de capital riesgo. Su objetivo era financiar proyectos de manera transparente y descentralizada. Los proyectos eran propuestos por “contratistas”, cuya identidad era validada por voluntarios llamados “comisarios” (curators), quienes publicaban los proyectos en una lista blanca, de tal forma que un inversor podía financiar un proyecto dado, según su interés. Es decir, las transacciones de DAO, consistían en la transferencia de dinero a un proyecto dado, que era regido mediante el contrato inteligente (el proceso) entre los contratistas e inversores que hemos descrito.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación

Supuestamente esta organización descentralizada era perfecta por la ausencia de intermediarios, lo que garantizaba que no se desviara ningún tipo de financiación hacia manos poco claras. Un mundo feliz. Es la ciudad descrita por Platón. La inteligencia se encuentra en los contratos inteligentes, sus algoritmos son los filósofos que practican la sabiduría; los guardianes son los “comisarios”, o más en general, los mineros de blockchain que verifican las transacciones antes de incorporarlas a una cadena de bloques en un nodo particular; los obreros somos el resto, cuya capacidad no nos alcanza a entender lo complejo de este mundo digital y solo nos queda servir a quienes lo gobiernan y seguir sus leyes con templanza de ánimo.

Por desgracia, la empresa The DAO no tuvo una existencia feliz. En junio de 2016 se explotó una vulnerabilidad del código, es decir, del contrato inteligente (que no sería entonces tan inteligente) y sufrió un ataque permitiendo capturar millones de etheres (la criptomoneda de Ethereum) destinados a financiar proyectos. Los bloques de The DAO tuvieron que ser intervenidos manualmente para restaurar la situación. Parece entonces que la Organización Autónoma Descentralizada no era tan autónoma, ni nuestro mundo era tan perfecto.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación. Ni la inteligencia artificial es tan inteligente, ni las DAO tan autónomas. En todos los casos es necesario tener una intervención humana. No podemos pensar que el sueño de un mundo feliz reside en apartar a las personas (supuesta fuente de imperfección) para ser gobernados por máquinas. No, por la simple razón de que esas máquinas están a su vez gobernadas por algoritmos creados por personas.

Para encontrar solución podemos recurrir de nuevo a Platón. Al final del libro IX de su obra La República, donde describe esta ciudad perfecta, reconoce, por boca de Glauco, que tal ciudad “no existe, salvo en nuestra idea”. A lo que Sócrates responde que acaso en el cielo haya un modelo que sirva de referencia a quien lo vea, para “arreglar sobre él la conducta de su alma”.

Si buscamos una ciudad perfecta, no pensemos en cambiar las personas por máquinas, sino en cambiar nosotros como personas para crear esa ciudad perfecta.

 Publicado en DigitalBiz

 

Pin It on Pinterest