El valor de una IA valiente

El valor de una IA valiente

El valor de una IA valiente

La inteligencia artificial no está consiguiendo el valor esperado. La solución no está reñida con la ética. Es posible obtener valor de la IA y tener el valor de ser éticos.

Rossumovi Univerzální Roboti (Robots Universales Rossum). Así se llama la obra de teatro del autor checo Karel ?apek, estrenada hace 100 años en el Teatro Nacional de Praga, y que ha pasado a la historia por acuñar por primera vez el término robot. La historia versa sobre la empresa Rossumovi Univerzální Roboti, que se dedica a la fabricación de unos artilugios humanoides, llamados robots, que proviene de la palabra checa “robota”, que significa “esclavo. Han sido diseñados con el saludable propósito de aliviar la carga de trabajo a los sufridos humanos. Finalmente, la situación se va de las manos y los robots acaban matando a toda la humanidad, excepto a un ingeniero, porque él, igual que los robots, trabaja con las manos.

Apenas un 20% de las organizaciones que invierten en inteligencia artificial obtienen verdadero valor de la misma

Curiosa metáfora que parece un sombrío augurio, si bien veo poco probable que suceda, al menos en el corto plazo. Al igual que hemos controlado otras tecnologías, ésta de la robótica y de la inteligencia artificial también estará bajo control, aunque no sin arduo trabajo. Hoy en día el problema no son los robots, sino la inteligencia artificial, la cual añade un riesgo mayor: que la inteligencia artificial, a diferencia de los robots, no se ve. Un robot es un muñeco que ves venir; la inteligencia artificial se encuentra sumergida en miles de aplicaciones, tomando decisiones sin que lo sepamos.

Esto es una cuestión ética (la ética habla de la toma de decisiones) y por ello ahora importa menos: porque las preocupaciones éticas son para los tiempos de bonanza, cuando el exceso de presupuesto permite dedicarse a “esas otras cosas”. Pues bien, existe otra cuestión con la inteligencia artificial que quizá resulte más interesante a los comités de dirección de las organizaciones: apenas un 20% de las organizaciones que invierten en inteligencia artificial obtienen verdadero valor de la misma. Así lo revela un informe de McKinsey de finales del año pasado.

La razón de tan bajo rendimiento no es solo una cuestión tecnológica. No es tanto un problema con la integración de datos que provienen de sistemas distintos, ni con la validez de los algoritmos o con la capacidad de procesamiento. La inteligencia artificial es una tecnología que tiene un tipo de diseño particular y, en consecuencia, presenta una problemática particular asociada. Debemos saber cómo entrenar bien a los algoritmos para evitar riesgos de sesgo o de robustez; es necesario entender por qué un sistema inteligente toma una decisión en detrimento de otra (‘explicabilidad’); los sistemas de machine learning tienen métodos específicos de ataque que permiten conocer los datos fuentes o causar resultados erróneos; o bien se deben cumplir regulaciones específicas relacionadas con protección de datos.

Podemos conseguir valor de la inteligencia artificial y tener el valor de ser éticos.

La solución a estas cuestiones escapa a la pura tecnología y se dirige más a los mecanismos de gestión y de gobierno. Hablamos de obtener el compromiso de todos los niveles de dirección, para evitar islas tecnológicas; de entender qué objetivos buscamos con la IA y si somos capaces de explicarlos a la sociedad; de disponer de líderes transversales que gestionen equipos con un balance adecuado de talento interno y externo; de contar con product owners que conozcan los riesgos y oportunidades de los sistemas inteligentes; y por último, para los más atrevidos, de velar por disponer de una inteligencia artificial éticamente responsable.

Como se ve, la solución no es nueva. Consiste en saber gestionar y gobernar la tecnología, en este caso con sus particularidades. Quizás nos falte un nombre a esta solución para hacerla más atractiva y así explicar con palabras brillantes los viejos problemas de siempre. Karel ?apek supo encontrar ese nombre para estos autómatas seudo-inteligentes. Tengamos nombre o no, sugiero aplicar esta visión con un doble afán: conseguir valor de la inteligencia artificial y tener el valor de ser éticos.

Publicado en Digital Biz

 

Las maquinas trabajan, nosotros ociamos

Las maquinas trabajan, nosotros ociamos

Las maquinas trabajan, nosotros ociamos

¿La tecnología nos ayuda o nos suplanta?

“Si tienes el correo electrónico en tu móvil, terminarás antes de trabajar y disfrutarás de más tiempo libre”. Recuerdo con claridad aquellos primeros anuncios de la BlackBerry. Un joven risueño y placentero se sentaba en un vagón de metro camino de su oficina. En el trayecto del suburbano accedía a su correo electrónico, revisaba sus mensajes y respondía convenientemente a cada uno de ellos. Todo ello con tal rapidez y acierto que al finalizar el viaje ya había resuelto sus tareas diarias. No era necesario ir a la oficina. El joven audaz cambiaba su destino y concluía el resto de la jornada disfrutando de la paz de un ameno parque, vestido con de traje, pero liberado de su corbata.

O bien este joven tenía poco que hacer, o bien el anuncio era irreal. El tiempo nos ha descubierto que era lo segundo: el anuncio era una mentira. Actualmente disponemos de todas nuestras herramientas de trabajo en el móvil: correo electrónico, paquetes ofimáticos (‘ofimático’, ¡qué antiguo!), sistemas de comunicación, reuniones virtuales; sin embargo, no parece que nuestras jornadas de trabajo sean menores. La razón es clara: la dirección por objetivos significa que, si cumples tus objetivos, ya se encargarán de ponerte otros nuevos; si eres capaz de responder tus correos en el trayecto del metro, ven a la oficina que te daré nuevos correos.

La tecnología altera seriamente el trabajo. Esto ha ocurrido desde que se inventó la palanca o la polea y se necesitaban menos personas para mover un cubo de piedra. Ahora la situación parece más alarmante por virtud, o vicio, de la inteligencia artificial. El último informe de la OCDE sobre el futuro del trabajo indica que el 14% de los trabajos tiene riesgo de automatización, lo cual no es poco, si bien supone un porcentaje mucho menor que lo expresado por otros informes. Además, no vaticina un desempleo masivo por la automatización. El informe es alentador, pero es un análisis de la era pre-virus.

La tecnología altera seriamente el trabajo. Ahora la situación parece más alarmante por la inteligencia artificial

En estos tiempos coronados la situación ha cambiado en cuestión de meses. La reclusión hogareña y el cierre físico de los negocios ha incrementado la digitalización de la actividad. En particular se está potenciando el uso de la inteligencia artificial, ya sea para ganar eficiencia, y reducir costes, para generar negocio, principalmente con big data y machine learning, o bien, unido a la robótica, para realizar tareas en el mundo físico y evitar contagios.

Se acrecienta el temor a que la inteligencia artificial genere desempleo y se aviva el discurso de un ingreso básico universal que nos sustente. El mensaje atrae, porque es bonito y simple: que las máquinas trabajen, y así nosotros ociamos. Nuevo anuncio BlackBerry. La idea tiene sus defensores y detractores. Recientemente el cofundador de Twitter, Jack Dorsey, ha donado 3 millones de dólares para un programa de ingreso básico en 16 ciudades de Estados Unidos; en nuestro país, se ha implantado el ingreso mínimo vital, quizá no tanto movido por la inteligencia artificial. Por otro lado, Calum Chace, experto en inteligencia artificial, argumenta que el concepto ‘ingreso básico universal’ contiene tres palabras donde al menos una de ellas no es buena. En todo caso, vaticina que la inteligencia artificial cambiará la economía y eso parece indudable.

La tecnología nos cambia la vida, pero ahora la situación no se observa con perspectiva halagüeña. En el anuncio de la BlackBerry el mundo aparecía feliz por causa de la tecnología; ahora aparece vacío (de trabajadores) por su misma causa. Una misma causa, pero distinta consecuencia: en el primer caso la tecnología parece que “nos ayuda”, en el segundo, parece que “nos suplanta”. Con independencia de la validez de un ingreso básico universal, el matiz entre una consecuencia y otra no depende de las máquinas, sino de nosotros.

Publicado en Digital Biz

Ética a Sophia

Ética a Sophia

Ética a Sophia

Tenemos un robot peregrinando por el mundo. Se llama Sophia y en su discurrir por el mundo nos quiere mostrar sus habilidades discursivas. Es un robot humanoide, quizá una robot (¿son como los ángeles, sin sexo?) basada en inteligencia artificial (IA) que deambula de país en país, de continente en continente, ofreciendo entrevistas y respondiendo, como puede y como sabe, a las preguntas de sus interlocutores. Podemos decir que es una maravillosa máquina parlante. Puede que no la primera.
En 1845 Joseph Faber presentó en Filadelfia a Euphonia, a la que denominó maravillosa máquina parlante. Consistía en una cabeza femenina de maniquí, dispuesta en un bastidor de madera. Mediante un conjunto de teclado y pedales, accionados por el propio Faber, se hacía pasar aire por una serie de lengüetas que reproducían la voz humana a través de la cabeza del maniquí. Era capaz de hablar en cualquier idioma europeo y de cantar el himno “Dios salve a la Reina”. Al igual que Sophia, respondía a las preguntas de su público como buenamente podía; si bien, en este caso, como buenamente podía Faber.

No podemos decir que Sophia y Euphonia sean lo mismo. Euphonia no estaba basada en IA, sino más bien en inteligencia natural. Sin embargo, Sophia y Euphonia tienen algo en común; algo que caracteriza a toda IA. Sabemos que cuando Euphonia respondía, en realidad era Faber quien respondía. Si la respuesta era acertada, el mérito era de Faber; si era una locura, peligraba más bien el propio Faber. En el caso de Sophia, ¿sabemos en realidad quién responde?

Si hablamos de ética, hablamos de responsabilidad; y detrás de una IA ética hay un ser humano responsable

El sistema de reconocimiento de voz de Sophia está basado en tecnología de Alphabet, filial de Google, su sistema de procesamiento verbal en CereProc, y su sistema de IA está diseñado por Hanson Robotics. Todo esto es correcto, pero no hemos respondido a la pregunta, ¿sabemos en realidad quien responde? La ética se fundamenta en la respuesta a esta pregunta.

Si hablamos de aplicar principios éticos a la IA, debemos poder responder a esta pregunta. Porque la ética se justifica por la existencia de un ser responsable, que actúa en un sentido u otro. La ética de Euphonia es la ética de Faber; ¿de quién es la ética de Sophia? La ética en la IA no es solo una cuestión tecnológica. Si hablamos de ética, hablamos de responsabilidad; y detrás de una IA ética hay un ser humano responsable.

Publicado en Innovadores

 

Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

Votemos qué está bien qué está mal

La preocupación por complacer o por convencer tiende a prevalecer sobre las exigencias de la razón. Y el amor al éxito, sobre el amor a la verdad. Toda democracia favorece la sofística

André Comte-Sponville

En cierta ocasión una piedra desprendida desde lo alto de un acantilado mató a un joven que estaba abajo, tranquilamente mirando el móvil junto a la playa. La piedra fue condenada por asesinato. De nada valieron los argumentos de la defensa que sostenían que la piedra estaba sujeta a la ineludible ley de la gravedad. El juez dictó que la piedra, como vehículo en movimiento, debería haber decidido de forma autónoma el desviar su trayectoria para así evitar la muerte de aquel inocente joven. Este mismo absurdo razonamiento ocurre con los vehículos de conducción autónoma.

Actualmente existe el debate de qué decisión debe tomar un vehículo autónomo cuando se encuentre ante una situación que afecte a la integridad física de las personas. Por ejemplo, cómo actuar si en su trayectoria se encuentra a una persona cruzando la calle.

Para avanzar en este debate el MIT ha creado la plataforma de crowdsourcing “Moral Machine”. El objetivo es “construir una imagen amplia (mediante «crowdsourcing») de la opinión de las personas sobre cómo las máquinas deben tomar decisiones cuando se enfrentan a dilemas morales”. Para ello el MIT propone una serie de escenarios con dilemas morales relacionados con vehículos autónomos sobre los cuales los participantes deciden soluciones.

Por ejemplo, en una calle sin escapatoria por los laterales, un coche autónomo que no puede frenar se dirige hacia un paso de cebra sobre el cual cruzan ciertos viandantes. Se plantea entonces el dilema de si el vehículo debe seguir recto y matar a los viandantes que están en su carril cruzando la calle, o desviarse y matar a aquellos que están cruzando a la altura del carril contrario. Las disyuntivas que se plantean radican en el número y tipo de personas a matar. Así, en un escenario se plantea si es mejor matar a un viandante o a las cuatro personas que viajan en el coche; o matar a una joven frente a un delincuente; o bien, a una persona atlética respecto a un anciano achacoso. Estas cuestiones tienen su peligro y merecen una reflexión.

Una máquina no se enfrenta a dilemas a morales, somos nosotros a través de las máquinas y ésa es nuestra responsabilidad

Detrás del planteamiento de tales dilemas morales se encuentra la corriente filosófica ética denominada utilitarista, según la cual está bien aquello es bueno para la mayoría. En el caso de la plataforma del MIT, la solución correcta respecto a un posible escenario (por ejemplo, si matar a un anciano o a un joven), puede depender de la opinión más votada. Así planteado, parece que dejamos la vida en manos de la solución más votada, al puro estilo de un circo romano, por ello es más moderno decir que es una solución basada en una “plataforma de crowdsourcing”. De esta forma diluimos la responsabilidad en la modernidad.

Pero además existe un segundo error. Ninguna máquina toma ninguna decisión moral; son las personas que diseñaron los algoritmos de la máquina quienes toman una decisión moral. Un vehículo autónomo es como la piedra que cayó y mató al joven en el acantilado. Así como argumentó la defensa, que la piedra estaba sujeta a la ineludible ley de la gravedad, de la misma forma el vehículo autónomo está sujeto a la ineludible ley (o leyes) del algoritmo que algún ingeniero le programó. Ni la piedra es “autónoma”, ni el vehículo tampoco. Una máquina no se enfrenta a dilemas a morales, somos nosotros quienes nos enfrentamos a ellos a través de las máquinas y ésa es nuestra responsabilidad.

Todo esto nos lleva a una serie de preguntas a las cuales debemos dar respuesta antes de ponernos a programar: ¿es la moral una cuestión de democracia? ¿es el bien y el mal una cuestión de votos? ¿es siempre única la respuesta ante una pregunta ética?, y, en consecuencia, ¿podemos reducir las cuestiones éticas a fórmulas matemáticas, y por tanto a algoritmos? Hace falta más Kant y menos Watson.

Publicado en digitalbiz

 

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Blockchain y la ciudad perfecta de Platón

Organizaciones Autónomas Descentralizadas

 

Inteligencia, carácter y deseo: según Platón, estos son los tres elementos del alma humana, y son, por tanto, los tres elementos que deben configurar la ciudad perfecta. Una ciudad, que, a semejanza del alma, estará dividida en tres estamentos: los filósofos, los guardianes y los obreros. Cada uno de ellos deberá cultivar la virtud que más se adecua a su función: los filósofos desarrollarán la sabiduría, pues ellos deben gobernar; los guardianes, el valor, para proteger y defender la ciudad; y los obreros, la templanza, como corresponde a quienes deben trabajar para los dos estamentos superiores y obedecer las leyes.

Esta visión nos parece lejana y también superada. Recuerda a “Un mundo feliz” de Aldous Huxley, que está lejos de ser verdaderamente un mundo feliz. Pero no es una visión tan lejana. De alguna forma se encuentra en las tendencias actuales que cifran en la tecnología la solución buena a todos nuestros males, toda vez que consigamos que las personas intervengan lo menos posible y todo sea hecho mediante máquinas y algoritmos ecuánimes. Es el caso de las llamadas Organizaciones Autónomas Descentralizadas (DAO, por sus siglas en inglés), basadas en la cadena de bloques (blockchain).

Estas organizaciones se denominan “autónomas” por cuanto pueden operar sin la mediación de personas. ¿Cómo? Mediante la realización de transacciones controladas por contratos inteligentes. Son “descentralizadas” porque el control de dichas transacciones se confía en la cadena de bloques. Por tanto, los contratos inteligentes actúan a modo de procesos, o reglas que rigen la organización, mientras que el negocio en sí de tal organización es la ejecución de ciertas transacciones.

Un ejemplo de organización DAO lo tenemos en la empresa The DAO, creada en abril de 2016 sobre la plataforma Ethereum como una empresa de capital riesgo. Su objetivo era financiar proyectos de manera transparente y descentralizada. Los proyectos eran propuestos por “contratistas”, cuya identidad era validada por voluntarios llamados “comisarios” (curators), quienes publicaban los proyectos en una lista blanca, de tal forma que un inversor podía financiar un proyecto dado, según su interés. Es decir, las transacciones de DAO, consistían en la transferencia de dinero a un proyecto dado, que era regido mediante el contrato inteligente (el proceso) entre los contratistas e inversores que hemos descrito.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación

Supuestamente esta organización descentralizada era perfecta por la ausencia de intermediarios, lo que garantizaba que no se desviara ningún tipo de financiación hacia manos poco claras. Un mundo feliz. Es la ciudad descrita por Platón. La inteligencia se encuentra en los contratos inteligentes, sus algoritmos son los filósofos que practican la sabiduría; los guardianes son los “comisarios”, o más en general, los mineros de blockchain que verifican las transacciones antes de incorporarlas a una cadena de bloques en un nodo particular; los obreros somos el resto, cuya capacidad no nos alcanza a entender lo complejo de este mundo digital y solo nos queda servir a quienes lo gobiernan y seguir sus leyes con templanza de ánimo.

Por desgracia, la empresa The DAO no tuvo una existencia feliz. En junio de 2016 se explotó una vulnerabilidad del código, es decir, del contrato inteligente (que no sería entonces tan inteligente) y sufrió un ataque permitiendo capturar millones de etheres (la criptomoneda de Ethereum) destinados a financiar proyectos. Los bloques de The DAO tuvieron que ser intervenidos manualmente para restaurar la situación. Parece entonces que la Organización Autónoma Descentralizada no era tan autónoma, ni nuestro mundo era tan perfecto.

El futuro de la transformación digital sólo será posible si no nos empeñamos en sacar a las personas de la ecuación. Ni la inteligencia artificial es tan inteligente, ni las DAO tan autónomas. En todos los casos es necesario tener una intervención humana. No podemos pensar que el sueño de un mundo feliz reside en apartar a las personas (supuesta fuente de imperfección) para ser gobernados por máquinas. No, por la simple razón de que esas máquinas están a su vez gobernadas por algoritmos creados por personas.

Para encontrar solución podemos recurrir de nuevo a Platón. Al final del libro IX de su obra La República, donde describe esta ciudad perfecta, reconoce, por boca de Glauco, que tal ciudad “no existe, salvo en nuestra idea”. A lo que Sócrates responde que acaso en el cielo haya un modelo que sirva de referencia a quien lo vea, para “arreglar sobre él la conducta de su alma”.

Si buscamos una ciudad perfecta, no pensemos en cambiar las personas por máquinas, sino en cambiar nosotros como personas para crear esa ciudad perfecta.

 Publicado en DigitalBiz

 

Aires de mala gestión que dispersan la nube

Aires de mala gestión que dispersan la nube

Aires de mala gestión que dispersan la nube

Decía Ovidio que “veo lo que es bueno y lo apruebo, pero hago lo peor” y así parece que ocurre cuando migramos servicios a la nube. Y no por ir a la nube, sino por la forma en la que vamos. La tecnología es siempre el menor de los problemas; eso lo sabemos. Como también sabemos que en todo cambio tecnológico lo relevante son los aspectos de gestión; lo sabemos, lo aprobamos, pero no lo terminamos de hacer.

Según un informe sobre el mercado del Cloud Computing en España elaborado por Quint, actualmente la satisfacción con los servicios en la nube es aceptable. No obstante, existe una cierta desilusión al no haber alcanzado los ahorros que se habían previsto. En muchos casos, la nube no ha resultado tan barata como vaticinaban los casos de negocio. La razón de este desacuerdo, entre lo esperado y lo real en la cuestión económica, se encuentra en la gestión, y en particular, en el paso a un modelo de pago por uso.

Resulta una cuestión muy evidente a la par que problemática: en el pago por uso, pagas por lo que usas; luego si usas mucho, pagas mucho. Financieramente no hay problema si ese pago elevado proviene de una actividad de negocio elevada: por ejemplo, a más clientes, más consumo de almacenamiento y, por lo tanto, más pago por unidad de memoria. Hay más coste, pero relacionado con más ingresos.

En la migración al Cloud no se obtienen los ahorros esperados

El desasosiego económico proviene cuando ese pago elevado proviene, por ejemplo, de los buzones de correo electrónico, que doblan o triplican al número de empleados, significando un coste no ligado necesariamente a ingresos. Es el resultado de una gestión en la que todo se resuelve abriendo un nuevo buzón de correo, porque “es gratis”. Pero al pasar a un modelo de pago por buzón (pago por uso), cada buzón ya no es tan gratis.

Al migrar a la nube los problemas tecnológicos se resuelven. Pero si no cambiamos la forma de gestionar, los beneficios esperados de la nube se dispersan por los aires de la mala gestión. Esta situación no empaña, sin embargo, las buenas perspectivas de crecimiento de los servicios Cloud, que presentan un crecimiento del 60% para las grandes empresas, y actualmente en las empresas más pequeñas ya significa el 30% de su presupuesto de TI.

Además, se ve claramente que el Cloud es una pieza fundamental para los nuevos negocios digitales. Con los servicios Cloud podemos decir que finalmente la tecnología ya está en el negocio. Vemos cómo cada vez de manera más intensa es el propio negocio el que toma decisiones directas sobre soluciones Cloud y contrata directamente dichas soluciones. El Cloud es el paso necesario para el desarrollo de la nueva transformación digital en aspectos como el IoT, Big Data, Blockchain o Inteligencia Artificial. Pero para obtener resultados de dicha transformación, no olvidemos, una vez más, que debemos atender al cambio del modelo de gestión. Esto, que lo sabemos y aprobamos, hagámoslo la próxima vez.

El Cloud es una pieza fundamental para los nuevos negocios digitales

Ovidio cuenta en “Las Metamorfosis” que Faetón le pidió a su padre, el dios Helios, gobernar por un día el carro del sol a través de los cielos. Al parecer no lo hizo con gran pericia, y por ello desde entonces en las regiones septentrionales hace mucho frío (alejó el carro del sol de la tierra) y en la franja central de África hay desiertos (se acercó mucho). Ante tal desatino tuvo que intervenir Zeus, quien golpeó el carro desbocado con un rayo, haciendo que Faetón cayera al río Erídano donde se ahogó. Sus hermanas, las helíades, quedaron tan apenadas que se transformaron en álamos.

Ovidio no dice, entonces, que una tecnología (el carro del sol por entre las nubes) hay que saber cómo gobernarla (dirigir y controlar el carro del sol), más que conocer sus características técnicas (cómo funciona el sol). La próxima vez que paseemos por una vereda tranquila ribeteada de álamos, podemos pensar que el reto en los servicios Cloud está en su nuevo modelo de gestión.

Publicado en Computer World Red de Conocimiento

 

Pin It on Pinterest