Fotograma de la película «2001: Una odisea del espacio»: Dave Bowman desconecta a la computadora Hal 9000
Antes de salir a la Bolsa, Anthropic advirtió a sus inversores que la inteligencia artificial puede ser “un riesgo existencial para la humanidad”.
Eso potencia el terror que producía la película “2001, odisea del espacio”, de Stanley Kubrick, cuando en el viaje a Júpiter se insubordina la megacomputadora Hal 9000
A veces hay noticias tan malas que es mejor no insistir mucho. Es suficiente con el título y un par de líneas sueltas. Después, mejor cambiemos de canal. Porque cuando Bill Gates dice que la tecnología descontrolada probablemente cause mil millones de muertos, ¿qué le vamos a andar preguntando? Y cuando Dario Amodei y los suyos, los de Anthropic (que son los buenos: los “malos” son los de Sam Altman, en Open IA), advierten que la compañía que están vendiendo en la Bolsa nos puede mandar al otro mundo en cualquier momento, lo único realmente urgente es hablar de otra cosa. Y eso es lo que estamos haciendo los periodistas, ni más ni menos. Lo mismo que el presidente Trump y los políticos.
Lo más aterrador de la advertencia de Amodei es este detalle: las máquinas se pueden resistir a que las apaguemos. Dice el documento que entre los peligros de su caja de Pandora se encuentran la resistencia a una orden de apagado. El paraguas que ha abierto Anthropic tiene el doble de diámetro. Su manual de instrucciones dice que los modelos pronto podrían adquirir capacidades inesperadas y que algunas de ellas podrían pasar inadvertidas hasta después de ser puestas en marcha.
La noticia del apagado imposible nos remite directamente a una secuencia célebre de “2001, odisea del espacio”. Está en la tercera y última parte de la película, “Misión a Júpiter”. Las dos primeras partes son “El amanecer del hombre” y “Viaje lunar”.
En la nave Discovery viajan cinco astronautas. Tres se encuentran en estado de hibernación, y hay dos despiertos: Frank Poole y Dave Bowman. Y además viaja Hal 9000, que, premonitoriamente, es capaz de tomar sus propias decisiones sin consultar con los seres humanos. Poco antes de llegar a Júpiter, Hal decide asumir todo el poder. Le dice a Dave Bowman que hay una falla en la unidad de comunicaciones. Dave sale al espacio a revisar y comprueba Hal lo está engañando y que el dato es falso.
Dave y Poole comienzan a sospechar de la máquina artera. Se encierran y apagan los micrófonos para hablar en secreto. Pero aunque no puede oírlos Hal 9000 les lee los labios y, ya en plan de guerra abierta, mata a Frank Poole y desconecta a los tres astronautas congelados.
Como en un duelo del Lejano Oeste, ya sólo quedan dos cowboys en el campo de batalla. Bowman decide desenchufar a Hal. Mientras dura la operación, que es larga y delicada, la computadora se da cuenta de lo que le va a pasar y le suplica al astronauta que se detenga.
Antes de perder totalmente la “conciencia”, Hal le dice a Bowman, mientras éste sigue moviendo su destornillador: “Tengo miedo, tengo miedo. Mi mente se está yendo. Puedo sentirlo, Dave. Puedo sentirlo…” Después, como un disco rayado, comienza a cantar una vieja canción infantil, compuesta en 1892 por un tal Harry Dacre: “Tengo una flor dentro del corazón/ plantada un día como si fuese un dardo./ Plantada por la hermosa Daisy Bell…”
Pese a todos sus muertos, Bowman logró sobrevivir porque Hal 9000 no supo resistirse a una orden de apagado. Ahora parece que aprendió, lo que bien podría ser la peor noticia del mundo. Por lo menos, así lo cree su genial fabricante.
