El nuevo ascensor asesino

Se dice que el programa Q* es una nueva amenaza para la humanidad

En el interior de un edificio de oficinas una niña se encuentra frente a un ascensor. El ascensor abre y cierra las puertas repetidamente, incitando a la niña a entrar en la cabina. Si lo hace, morirá. El ascensor se ha convertido en una máquina asesina.

Esta secuencia pertenece a El Ascensor, película de terror, quizás algo desconocida, en la cual un ascensor se transmuta en asesino un buen día y de forma inopinada. La causa radica en que fue programado con una tecnología prohibida, que tenía la capacidad de reprogramarse, siendo una amenaza para la sociedad.

Hace unas semanas, hemos vivido una miniserie donde Sam Altman era despedido y después readmitido, para terminar destituido parte del comité de dirección. No se sabe muy bien qué ha ocurrido, pero en una precuela no oficial de esta serie se atisba que quizás la razón se encuentre en un proyecto llamado Q* (Q star). Aseguran que este proyecto ha revelado una capacidad de ChatGPT que podría suponer un paso más hacia la inteligencia artificial general (AGI). Una inteligencia que supera en todo al ser humano y, por ello, con consecuencias desconocidas para la humanidad. ¿Habrán dado con la polea inicial de un posible ascensor asesino?

Ya hemos tenido miedos

En mi libro Estupidez artificial planteo otras innovaciones que en su momento generaron alarma en la sociedad. A mediados del siglo XIX, con el nacimiento del telégrafo, se dijo que acabaría nuestra capacidad de pensar. Posteriormente, se vio que el teléfono vulneraba la privacidad personal y se alarmó con desintegrar la esencia humana. Hoy en día seguimos siendo seres humanos con capacidad de pensar (si pensamos menos es porque estamos dormidos con la fantasía de las redes sociales).

Q* representa un avance hacia la AGI porque unifica dos capacidades: aprendizaje y planificación

No es necesario irse tan lejos en el tiempo. En 2016 el programa AlphaGo venció a Lee Sedol, mejor jugador del mundo, en un campeonato de Go. Sedol solo pudo ganar una partida de cinco. Se dijo entonces que esa victoria suponía un nuevo paso para la inteligencia artificial y una nueva amenaza porque podría terminar fuera de control.

Meter miedo sale gratis. Con el tiempo nadie te pide cuentas. Esto tampoco nos debe llevar a una visión ingenua de la inteligencia artificial. Esta tecnología tiene riesgos; negarlo es inconsciencia o engaño. Lo que debemos hacer es conocer estos riesgos, sin alarmismos, con templanza y sabiendo cómo actuar ante una posible emergencia. El tráfico de vehículos en las ciudades tiene riesgos, pero no por ello nos quedamos en casa.

Pensando templadamente en esos riesgos, la pregunta inquietante quizás sea: ¿supone la AGI un riesgo existencial para la humanidad?

A conciencia

Se dice que Q* representa un avance hacia la AGI porque unifica dos capacidades: aprendizaje y planificación. Pensando de forma distópica, eso nos lleva a pensar en un sistema inteligente que aprende cómo acabar con la humanidad y además planifica cómo hacerlo. Ya tenemos a nuestro ascensor asesino.

¿Es posible? Sí. ¿Es probable? Poco. Para llegar a esa situación hace falta una condición previa, que es la existencia de una conciencia. Alguien que quiera acabar con la humanidad. Se supone que el ascensor de la película en un momento dado decide acabar con cualquier incauto que entre en su cabina. Esa decisión es materia de una conciencia, capacidad no garantizada en la AGI. Sin esa consciencia, tan solo cabría temer que por azar, por mera casualidad, el sistema inteligente alcanzara como objetivo acabar con nosotros. En ese caso, dado que conocemos este riesgo, es de pacatos quedarse en casa. Debemos salir a la calle con las precauciones para que eso no suceda. Pongamos límites a esa futura AGI.

Queda además una última solución. En la película El Ascensor, los protagonistas acaban destruyendo el sistema central asesino del elevador. No obstante, por si acaso, terminan bajando por las escaleras. No perdamos nunca ese mundo natural.

Publicado en DigitalBiz