Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

La preocupación por complacer o por convencer tiende a prevalecer sobre las exigencias de la razón. Y el amor al éxito, sobre el amor a la verdad. Toda democracia favorece la sofística

André Comte-Sponville

En cierta ocasión una piedra desprendida desde lo alto de un acantilado mató a un joven que estaba abajo, tranquilamente mirando el móvil junto a la playa. La piedra fue condenada por asesinato. De nada valieron los argumentos de la defensa que sostenían que la piedra estaba sujeta a la ineludible ley de la gravedad. El juez dictó que la piedra, como vehículo en movimiento, debería haber decidido de forma autónoma el desviar su trayectoria para así evitar la muerte de aquel inocente joven. Este mismo absurdo razonamiento ocurre con los vehículos de conducción autónoma.

Actualmente existe el debate de qué decisión debe tomar un vehículo autónomo cuando se encuentre ante una situación que afecte a la integridad física de las personas. Por ejemplo, cómo actuar si en su trayectoria se encuentra a una persona cruzando la calle.

Para avanzar en este debate el MIT ha creado la plataforma de crowdsourcing “Moral Machine”. El objetivo es “construir una imagen amplia (mediante «crowdsourcing») de la opinión de las personas sobre cómo las máquinas deben tomar decisiones cuando se enfrentan a dilemas morales”. Para ello el MIT propone una serie de escenarios con dilemas morales relacionados con vehículos autónomos sobre los cuales los participantes deciden soluciones.

Por ejemplo, en una calle sin escapatoria por los laterales, un coche autónomo que no puede frenar se dirige hacia un paso de cebra sobre el cual cruzan ciertos viandantes. Se plantea entonces el dilema de si el vehículo debe seguir recto y matar a los viandantes que están en su carril cruzando la calle, o desviarse y matar a aquellos que están cruzando a la altura del carril contrario. Las disyuntivas que se plantean radican en el número y tipo de personas a matar. Así, en un escenario se plantea si es mejor matar a un viandante o a las cuatro personas que viajan en el coche; o matar a una joven frente a un delincuente; o bien, a una persona atlética respecto a un anciano achacoso. Estas cuestiones tienen su peligro y merecen una reflexión.

Una máquina no se enfrenta a dilemas a morales, somos nosotros a través de las máquinas y ésa es nuestra responsabilidad

Detrás del planteamiento de tales dilemas morales se encuentra la corriente filosófica ética denominada utilitarista, según la cual está bien aquello es bueno para la mayoría. En el caso de la plataforma del MIT, la solución correcta respecto a un posible escenario (por ejemplo, si matar a un anciano o a un joven), puede depender de la opinión más votada. Así planteado, parece que dejamos la vida en manos de la solución más votada, al puro estilo de un circo romano, por ello es más moderno decir que es una solución basada en una “plataforma de crowdsourcing”. De esta forma diluimos la responsabilidad en la modernidad.

Pero además existe un segundo error. Ninguna máquina toma ninguna decisión moral; son las personas que diseñaron los algoritmos de la máquina quienes toman una decisión moral. Un vehículo autónomo es como la piedra que cayó y mató al joven en el acantilado. Así como argumentó la defensa, que la piedra estaba sujeta a la ineludible ley de la gravedad, de la misma forma el vehículo autónomo está sujeto a la ineludible ley (o leyes) del algoritmo que algún ingeniero le programó. Ni la piedra es “autónoma”, ni el vehículo tampoco. Una máquina no se enfrenta a dilemas a morales, somos nosotros quienes nos enfrentamos a ellos a través de las máquinas y ésa es nuestra responsabilidad.

Todo esto nos lleva a una serie de preguntas a las cuales debemos dar respuesta antes de ponernos a programar: ¿es la moral una cuestión de democracia? ¿es el bien y el mal una cuestión de votos? ¿es siempre única la respuesta ante una pregunta ética?, y, en consecuencia, ¿podemos reducir las cuestiones éticas a fórmulas matemáticas, y por tanto a algoritmos? Hace falta más Kant y menos Watson.

Publicado en digitalbiz

 

Bombas de agua en una aldea africana

Bombas de agua en una aldea africana

Bombas de agua en una aldea africana

De la comunidad a la individualidad

 

Durante mi largo periodo universitario pasé un corto periodo de tiempo en la ONG Ingenieros Sin Fronteras, actualmente ONGAWA, y allí me contaron una historia que me hizo reflexionar sobre el impacto de la tecnología en la sociedad. Hace ya mucho tiempo de aquello y no recuerdo el lugar exacto, por ello, parafraseando a Cervantes, me atrevo a comenzar diciendo:

En un lugar de África de cuyo nombre no puedo acordarme, existía una pequeña comunidad cuya vida se vio alterada cuando les instalaron una bomba de agua en medio de la aldea. Antes de la llegada de dicha bomba, para disponer del agua de consumo diario las mujeres jóvenes de cada casa caminaban hasta el pozo más cercano unos tres kilómetros con el cántaro de barro sobre su cabeza. Aquel recorrido, que solía ser solitario y tranquilo, era aprovechado por los mozos del lugar para intentar acercarse a ellas y comenzar así un cortejo romántico. En cualquier recodo del camino, o quizás tras el grueso tronco de un baobab, un joven podía hacerse el encontradizo con aquella chica, que, en busca del agua diaria, recorría el camino hacia el pozo. La joven quizá recibía aquel encuentro, forzadamente casual, con soleada gratitud, y al final, en el brocal del pozo, el agua del amor podía correr con soltura.

Gracias a aquellos caminos hacia el pozo, el desarrollo familiar se mantenía con un ritmo sano de matrimonios y nacimientos, o nacimientos y matrimonios pues todo viaje al pozo tenía cierto punto de incertidumbre. Pero aquella tranquila aldea fue objeto del plan de “Viabilidad del Agua Y Acequias” (plan VAYA) que acabó con aquella natalidad sólida de que gozaban. En mitad de la aldea instalaron una moderna y tecnológica bomba de agua, que, a través de apropiadas y seguras tuberías, traía el agua del remoto pozo hasta el centro de la aldea. Con satisfacción y pompa se anunció tan importante mejora a la comunidad internacional. Hubo inauguración oficial con grandes personalidades de organismos internacionales, y la foto de algún que otro cantante de moda bienintencionado rodeado de niños jugando con el agua a presión que salía de la bomba.

Debemos usar la tecnología para el desarrollo de la sociedad, haciendo a la vez que las personas no pierdan su integración cultural de la comunidad en la que viven

Al final del día, cuando el sol rodaba por el filo de la sabana, se marcharon los negros coches oficiales, y allí quedó la bomba soltando agua en la explanada central de la aldea. Con ello se acabaron los paseos a por agua con el cántaro en la cabeza, las sorpresas previstas de encuentros imprevistos, el goteo de risas recostados en el pretil del pozo, y todo aquello que el amor desbordado pudiera llevar. A falta de encuentros amorosos camino del pozo, la aldea se fue quedando poco a poco sin niños, pero siempre con agua.
Esta historia, quizá algo novelada, pero con un poso de realidad, nos puede hacer pensar en cómo la tecnología y las medidas de desarrollo afectan a la cultura de la sociedad. En particular, y atendiendo a la moraleja de esta historia, cómo la tecnología nos puede llevar de la comunidad a la individualidad.

Ahora ya no instalamos bombas de agua en las plazas de las aldeas, pues esa necesidad ya está cubierta, pero sí instalamos “bombas de información”, sistemas que nos bombean (o bombardean) información: las redes sociales, los chatbots que saltan en cuanto entramos en una página web, o cualquier aplicación basada en el big data. Todas ellas nacen con la idea de traernos esa información que necesitamos, sin tener que caminar tres kilómetros.

Resulta paradójico que estas bombas de información a veces, si no las usamos convenientemente, fomentan más nuestra individualidad que nuestra vida en común. Evitan que nos encontremos, persona a persona, por el camino. Ya no hace falta llamar a nadie para tener información, ya no es necesario ir a ningún sitio: la información viene a ti, como el agua a la plaza del pueblo.

Jacques Ellul, filósofo del siglo XX, hablaba de la “liberación” de la tecnología, no en el sentido de rechazarla, imposible por otro lado, sino en la idea de tomar conciencia de cómo actuar con ella como sujetos (personas) y no como objetos (usuarios). Ésa debe ser la actitud para conseguir que la tecnología no nos lleve de la comunidad a la individualidad. Debemos usar la tecnología para el desarrollo de la sociedad, haciendo a la vez que las personas no pierdan su integración cultural de la comunidad en la que viven.

En otra ocasión, espero que pronto, desarrollaré esta idea con un ejemplo basado en una actuación que está llevando a cabo en Nigeria para limpiar el delta del río Níger basado en el blockchain (a través de la organización Sustainability International). Por el momento me permito terminar con dos citas, una de Hans Jonas y otra de Spiderman. Hans Jonas, en su principio de responsabilidad, nos decía que teníamos que obrar de tal modo que los efectos de nuestra acción fueran compatibles con la permanencia de una vida humana auténtica en la Tierra; es decir, debemos instalar bombas de agua y además hacer que la sociedad continúe con sus costumbres. Porque con la tecnología tenemos un gran poder de actuación, y, como decía el tío de Spiderman (aquí está la segunda cita), “un gran poder conlleva una gran responsabilidad”: la responsabilidad de conseguir que la tecnología no nos aleje de la individualidad«.

Publicado en: Icarus

 

 

La vida en tuit-pildoras

La vida en tuit-pildoras

La vida en tuit-pildoras

Los nuevos valores de la tecnología

 

En preguntar lo que sabes

el tiempo no has de perder…

Y a preguntas sin respuesta

¿quién te podrá responder?

Estos son versos de Machado, peo hoy día se considerarían un tuit: porque ocupan menos de 280 caracteres y porque lanzan un mensaje más o menos contundente. Si Machado viviera hoy, quizá habría escrito este cantar en formato tuit, seguido de una hermosa foto prefabricada, con paisaje de ensueño, sacada de un banco de imágenes. O quizá habría convertido el texto en una imagen de Instragram con palabras escritas en distintos formatos y colores, algunas de ellas sobre un recuadro, y sobre fondo de color pastel.

Vivimos la vida a píldoras. A píldoras de tuits, de instantáneas en Instagram o de llamativos titulares en alimentadores de noticias. Twitter es un microblog que nos ofrece la vida en micro-realidades pasajeras. Lo importante es el número de “impresiones”, es decir, las veces que se ha visto un tuit, aunque sea de manera fugaz, y sin causar apenas ninguna impresión. Porque la vida a píldoras no impresiona, sino que reconforta. Vivimos rodeados de frases breves, de aforismos lapidarios que intentan arreglar cualquier situación en 280 caracteres.

Vivimos la vida a píldoras. A píldoras de tuits, de instantáneas en Instagram

Estos mismos tuits remiten a artículos que exponen la realidad siempre en un número reducido de pautas: “Los cinco pasos para una transformación eficaz”, “Las tres cosas que debes saber sobre el blockhacin”, “Siete pequeñas acciones diarias que te harán ser feliz”. Hay que simplificar la realidad.

Lo mismo ocurre en cierta literatura actual. Asistimos a microlecturas de historias, o a recetarios vitales, que para poderlos convertir en libros se escriben con letras de tamaño 18 puntos y sin escatimar espacios en blanco. De nuevo se busca la pauta mágica que lo solucione todo, o la historia breve que permita cambiar de asunto sin dejarme huella.

Eficacia y rapidez: quiero solucionar mis problemas y lo quiero de forma rápida.

Este pensamiento, este valor ético, se traslada también al ámbito profesional. Lo experimento cada vez que un cliente me pide empezar un proyecto la semana que viene, como si no hubiera más vida en dos semanas; y obtener lo antes posible “quick wins”, porque “arriba” quieren ver resultados lo antes posible. “Quick wins”, esto es, tuit-soluciones en 280 caracteres. Eficacia y rapidez.

Si quieres escribir buenos tuits, lee poesía

Son los valores culturales que nos transmite la tecnología. Durante años se viene discutiendo si la ciencia y la tecnología son asépticas en lo que respecta a valores morales. Existen argumentos en ambos sentidos. La cuestión radica cuando trasvasamos elementos de la esfera científica o tecnológica al ámbito de lo social y de lo humano: véase la teoría de Darwin, para el caso de la ciencia, o la inmediatez, para la tecnología.

La comunicación por el móvil a través de Twitter o WhatsApp puede ser inmediata, y puede ser breve, porque el móvil no se ha hecho para escribir “Cien años de soledad”. Pero ¿nuestra percepción de la realidad debe ser breve e inmediata? La tecnología es eficacia y rapidez; ¿debemos ser nosotros siempre eficaces y rápidos?

Volviendo a Machado, no sé si estoy preguntando lo que ya sé o bien estoy haciendo preguntas sin respuesta. En todo caso nuestra labor es tener esa consciencia de qué valores nos creamos en virtud de la tecnología.

Si quieres escribir buenos tuits, lee poesía (esto mismo podría ser un tuit). Por ello, dado el tema, termino con otros versos apropiados del gran Antonio Machado:

Tras el vivir y el soñar,

está lo que más importa:

despertar.

Publicado en Digital Biz

 

Los nuevos quijotes digitales

Los nuevos quijotes digitales

Los nuevos quijotes digitales

La Inteligencia Artificial y las redes sociales

«Se enfrascó tanto en su lectura, que se le pasaban las noches leyendo de claro en claro, y los días de turbio en turbio; y así, se le secó el celebro de manera que vino a perder el juicio [y] vino a dar en el más extraño pensamiento que jamás dio loco en el mundo, que fue hacerse caballero andante para el aumento de su honra».

Don Quijote perdió el juicio porque quedó atrapado en sus “redes sociales”, en su caso, las lecturas de libros de caballería, y así ocurre actualmente. Hoy en día puede que no leamos libros de caballería, pero al igual que Don Quijote, solo leemos aquello nos gusta, o lo que es peor, aquello que una cierta inteligencia artificial tonta dice que nos gusta. Y ya se está viendo el resultado: se están creando nuevos locos, nuevos quijotes digitales, que en busca del aumento de su honra en forma de “likes” se animan a realizar y publicar las más notables patochadas, como echarse agua hirviendo por encima o romper sandías con la cabeza, en una especie de combate mundial por ver quién es el campeón en disparates.

Don Alonso Quijano acabó convirtiéndose en Don Quijote porque solo leía libros de caballerías y pensaba que no había otro mundo fuera de la caballería andante. Actualmente cada uno solo lee sus particulares libros de caballería andante en forma de noticas, mensajes, tuits, vídeos o fotos creándose un nuevo universo imaginario.

Todo comienza cuando nos subscribimos a aquello que nos gusta: por ejemplo, en Pinterest, uno “pinea” aquellas fotos sobre temas de su interés; en LinkedIn, te suscribes a canales sobre contenidos afines; o en Instagram sigues a los que son como tú, o que tú quieres ser como ellos. En todos los casos, buscamos solo aquellas dimensiones de nuestro mundo en las cuales estamos conformes, llegando entonces a un mundo de una sola dimensión: solo hay caballería andante.

Se están creando nuevos locos, nuevos quijotes digitales, que en busca del aumento de su honra en forma de “likes” se animan a realizar y publicar las más notables patochadas

Pero la cuestión se complica más: se autoalimenta. Porque en base a tales suscripciones, según los “me gusta” gratuitos que ofrecemos, y atendiendo a los comentarios que hacemos, los algoritmos de tales redes sociales se toman la libertad de reducir más nuestra libertad con amables recomendaciones sobre aquello que “ellos” saben que nos gusta. Por ejemplo, si somos amantes de los gatos siameses, en Pinterest solo vemos fotos de gatos siameses; en LinkedIn nos aparecen conferencias y congresos sobre gatos siameses (seguro que existen tales conferencias); y en Instagram, recibimos vídeos sobre pequeñas aventuras de gatos siameses. Pero no termina ahí la pedagogía siamesa: si accedemos a cualquier publicación digital, nos aparece publicidad sobre alimentación para gatos siameses y si entramos en Amazon a comprar un libro sobre física cuántica, el algoritmo nos propone libros sobre el apasionante mundo de los gatos siameses cuánticos. Definitivamente, nos creamos nuestro mundo de caballería andante (en este caso con gatos siameses en su escudo de armas).

Por virtud de la inteligencia artificial y del “big data”, la situación todavía se enreda algo más. En el confuso libro “Homo Deus”, el autor, Yuval Noah Harari, nos habla de la crisis del liberalismo, entre otras razones, porque los algoritmos del futuro superarán nuestra capacidad de decisión al conocernos ellos mejor que nosotros mismos. Propone el caso de un asistente personal basado en Google al cual puedo preguntar sobre el dilema de qué chica es más conveniente para tener una cita. De esta forma el algoritmo me puede decir, que, si bien una de las candidatas ciertamente me atrae, dada mi alocada visión de la vida, aquella otra es más conveniente, debido a esa estabilidad que en lo más profundo de mi ser deseo, y que él, y sólo él, sabe, porque sabe más sobre mí que yo mismo. Y si un día me compro un perro labrador, cuando Google se entere, porque se acabará enterando, me mandará un aviso al móvil, o directamente al cerebro, diciéndome que dónde voy, si lo que me gustan son los gatos siameses. Gracias a mamá Google nuestro mundo de caballería andante permanece inalterable.

Al final de sus días, Don Quijote recobró la razón, y así lo dice en su último capítulo:
“Yo tengo juicio ya libre y claro, sin las sombras caliginosas de la ignorancia que sobre él me pusieron mi amarga y continua leyenda de los detestables libros de las caballerías. Ya conozco sus disparates, y no me pesa sino que este desengaño ha llegado tarde”.

Actualmente ya tenemos quijotes atrapados en las aspas de las redes sociales que muestran al mundo todos sus disparates via Youtube. La unión de las redes sociales más la inteligencia artificial nos puede llevar a una sociedad artificiosa, en la que creamos que todos piensan como nosotros, y en la que sólo se nos muestre aquello que unas fórmulas matemáticas dicen que nos gusta y que, además, es para nuestro bien.
Yuval Noah Harari habla de la crisis del liberalismo; más allá de esto está la crisis de la libertad. De la libertad basada en la diversidad, en la apertura a otros posibles mundos; en la posibilidad de aprender en base al error, que es la oportunidad a la creatividad. Si evitas la diversidad, tu universo se convierte en un monoverso aburrido, donde no hay espacio para la creatividad.

De nosotros depende el crear mundos de caballería, andante o no. Debemos diseñar una inteligencia artificial verdaderamente inteligente que no nos encierre en nuestro mundo de caballería basado en “likes”; corremos si no, el riesgo de convertirnos en quijotes digitales. Para ello recomiendo dos posibles acciones:

  •  Los algoritmos inteligentes que ofrezcan contenidos deben proponer opciones fuera de los supuestos intereses del usuario y fomentar la curiosidad.
  •  Los verdaderamente inteligentes debemos ser nosotros y abrirnos a otros intereses.

Don Quijote tuvo el pesar de liberarse tarde de su mundo de caballería. Que no nos pase igual, y terminemos votando a un gato siamés como presidente del gobierno.

Y por acabar al más puro estilo cervantino, me despido diciendo:
Vale.

Publicado en Computer World Red de Conocimiento

 

 

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Organizaciones Autónomas Descentralizadas

 

Inteligencia, carácter y deseo: según Platón, estos son los tres elementos del alma humana, y son, por tanto, los tres elementos que deben configurar la ciudad perfecta. Una ciudad, que, a semejanza del alma, estará dividida en tres estamentos: los filósofos, los guardianes y los obreros. Cada uno de ellos deberá cultivar la virtud que más se adecua a su función: los filósofos desarrollarán la sabiduría, pues ellos deben gobernar; los guardianes, el valor, para proteger y defender la ciudad; y los obreros, la templanza, como corresponde a quienes deben trabajar para los dos estamentos superiores y obedecer las leyes.

Esta visión nos parece lejana y también superada. Recuerda a “Un mundo feliz” de Aldous Huxley, que está lejos de ser verdaderamente un mundo feliz. Pero no es una visión tan lejana. De alguna forma se encuentra en las tendencias actuales que cifran en la tecnología la solución buena a todos nuestros males, toda vez que consigamos que las personas intervengan lo menos posible y todo sea hecho mediante máquinas y algoritmos ecuánimes. Es el caso de las llamadas Organizaciones Autónomas Descentralizadas (DAO, por sus siglas en inglés), basadas en la cadena de bloques (blockchain).

Estas organizaciones se denominan “autónomas” por cuanto pueden operar sin la mediación de personas. ¿Cómo? Mediante la realización de transacciones controladas por contratos inteligentes. Son “descentralizadas” porque el control de dichas transacciones se confía en la cadena de bloques. Por tanto, los contratos inteligentes actúan a modo de procesos, o reglas que rigen la organización, mientras que el negocio en sí de tal organización es la ejecución de ciertas transacciones.

Un ejemplo de organización DAO lo tenemos en la empresa The DAO, creada en abril de 2016 sobre la plataforma Ethereum como una empresa de capital riesgo. Su objetivo era financiar proyectos de manera transparente y descentralizada. Los proyectos eran propuestos por “contratistas”, cuya identidad era validada por voluntarios llamados “comisarios” (curators), quienes publicaban los proyectos en una lista blanca, de tal forma que un inversor podía financiar un proyecto dado, según su interés. Es decir, las transacciones de DAO, consistían en la transferencia de dinero a un proyecto dado, que era regido mediante el contrato inteligente (el proceso) entre los contratistas e inversores que hemos descrito.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación

Supuestamente esta organización descentralizada era perfecta por la ausencia de intermediarios, lo que garantizaba que no se desviara ningún tipo de financiación hacia manos poco claras. Un mundo feliz. Es la ciudad descrita por Platón. La inteligencia se encuentra en los contratos inteligentes, sus algoritmos son los filósofos que practican la sabiduría; los guardianes son los “comisarios”, o más en general, los mineros de blockchain que verifican las transacciones antes de incorporarlas a una cadena de bloques en un nodo particular; los obreros somos el resto, cuya capacidad no nos alcanza a entender lo complejo de este mundo digital y solo nos queda servir a quienes lo gobiernan y seguir sus leyes con templanza de ánimo.

Por desgracia, la empresa The DAO no tuvo una existencia feliz. En junio de 2016 se explotó una vulnerabilidad del código, es decir, del contrato inteligente (que no sería entonces tan inteligente) y sufrió un ataque permitiendo capturar millones de etheres (la criptomoneda de Ethereum) destinados a financiar proyectos. Los bloques de The DAO tuvieron que ser intervenidos manualmente para restaurar la situación. Parece entonces que la Organización Autónoma Descentralizada no era tan autónoma, ni nuestro mundo era tan perfecto.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación. Ni la inteligencia artificial es tan inteligente, ni las DAO tan autónomas. En todos los casos es necesario tener una intervención humana. No podemos pensar que el sueño de un mundo feliz reside en apartar a las personas (supuesta fuente de imperfección) para ser gobernados por máquinas. No, por la simple razón de que esas máquinas están a su vez gobernadas por algoritmos creados por personas.

Para encontrar solución podemos recurrir de nuevo a Platón. Al final del libro IX de su obra La República, donde describe esta ciudad perfecta, reconoce, por boca de Glauco, que tal ciudad “no existe, salvo en nuestra idea”. A lo que Sócrates responde que acaso en el cielo haya un modelo que sirva de referencia a quien lo vea, para “arreglar sobre él la conducta de su alma”.

Si buscamos una ciudad perfecta, no pensemos en cambiar las personas por máquinas, sino en cambiar nosotros como personas para crear esa ciudad perfecta.

 Publicado en DigitalBiz

 

Pin It on Pinterest