HAL 9000, la inquietante computadora de la película "2001: una odisea del espacio" que predijo las preocupaciones actuales sobre la IA
La clásica película de Stanley Kubrick plantea el escenario más inquietante e impactante del conflicto entre máquina y humano en la historia del cine de ciencia ficción.
“Lo siento, Dave, me temo que no puedo hacer eso”. Esas tenebrosas palabras emitidas por la computadora HAL 9000 en la famosa película “2001: una odisea del espacio” plasman la actual y prevalente ansiedad del posible dominio de la Inteligencia Artificial (AI) sobre la humanidad.
La clásica película del director Stanley Kubrick explora el ascenso de la tecnología, planteando posiblemente el escenario más perturbador e impactante del conflicto entre máquina y humano en la historia del cine de la ciencia ficción.
Sin embargo, más de 55 años después de su estreno, se puede argüir que el tema central de la cinta ya no puede considerarse ciencia ficción y ahora ocupa el ámbito de la profecía.
La computadora HAL -cuyas siglas corresponden a las letras de la gigante tecnológica IBM corridas hacia la izquierda- es la inteligencia artificial que está en control de todos los aspectos una la nave espacial que se dirige a Júpiter y de la vida de los astronautas que van a bordo.
Su omnipresencia y relación con la tripulación resaltan la compleja dualidad del potencial de la tecnología avanzada y sus peligros. Aunque HAL está programada para apoyar y llevar a los astronautas a su destino, la IA empieza a tomar decisiones por su cuenta e imponer su voluntad, con resultados catastróficos.
En nuestro mundo actual, se han desarrollado muchas aplicaciones de IA que operan en varias industrias y tienen un impacto significativo en nuestras vidas. Aunque todavía su capacidad no es comparable a la de una HAL 9000, la tecnología está avanzando a pasos agigantados y el futuro puede estar más cerca de lo que pensamos.
Aquí hay 5 aspectos en los que “2001: una odisea del espacio” predijo muchas de las preocupaciones y temores actuales que tenemos sobre la IA.
Tecnología atractiva
Cuando se escucha a HAL 9000 por primera vez en la película, tiene una voz masculina suave y placentera, muy parecida a las voces artificiales que hoy en día usan los servicios de asistencia virtual como Alexa, Siri, Bixby y otros chatbots.
Stanley Kubrick explicó que decidió ofrecerle la interpretación de la súper computadora al actor canadiense Douglas James Rain porque tenía un “tipo de acento afable, trasatlántico”, o sea, ni de aquí ni de allá.
La personalidad incorpórea de la máquina se presenta como inofensiva, amigable y de fácil interacción. Les sirve a los astronautas de compañía y distracción. Constantemente les pregunta qué se les ofrece, los mantiene cómodos, informados y hasta juega ajedrez con ellos.
Es fácil sentirse atraído a una tecnología que nos resuelve la vida, que es precisamente por lo que ahora los servicios interactivos de asistencia se han vuelto tan populares: pueden encender y apagar luces, moderar la temperatura de la casa, tocar la música que nos gusta, jugar con nosotros y contestar rápidamente muchas dudas que tenemos, entre otras cosas.
Una de las características más destacables de HAL es su capacidad de no sólo conversar con los astronautas y entender preguntas complejas sino poder distinguir sus voces y estado de ánimo. Puede incluso leer sus labios.
Las aplicaciones modernas no están tan avanzadas, pero tienen bien desarrollado el reconocimiento de voz y comprenden cada vez más lo que se les dice.
Control "total"
Las habilidades de HAL van más allá de su “sociabilidad”. La computadora constantemente está monitoreando los signos vitales de la tripulación que está en animación suspendida, inspeccionando fallas potenciales de la nave espacial y manteniendo el rumbo de la misión.
Es tal el control que tiene sobre todos los aspectos mecánicos, estructurales y vitales de la nave y tripulación que esta última es casi prescindible.
Tres de los astronautas están en cápsulas de hibernación y los otros dos limitan su actividad a tareas sencillas revisión y a hacer ejercicio para matar las horas de aburrimiento.
Aunque HAL no tiene una forma física -salvo una lente omnipresente- la computadora puede desarrollar la mayoría de las funciones del cerebro humano más rápido y con mayor exactitud.
En nuestro mundo actual hemos dejado una cantidad de tareas de infraestructura y funcionamiento en manos de la IA, desde el transporte, comunicación, abastecimiento, suministro de energía, dianósticos, escritura, hasta el servicio al cliente.
Aunque los sistemas como ChatGPT todavía no son más inteligentes que nosotros, pronto lo podrían ser. Y eso es algo que atemoriza a los expertos como Geoffrey Hinton, un pionero de la informática conocido como el “padrino” de la inteligencia artificial.
"En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimiento general que tiene y la eclipsan por mucho. En términos de razonamiento, no es tan bueno, pero ya logra razonamiento simple", comentó a la BBC en mayo de 2023.
"Y dado el ritmo de progreso, esperamos que se vuelva mejor bastante rápido. Así que debemos preocuparnos por eso".
Toma de decisiones propias
A pesar de la referencia traviesa a IBM, las siglas de HAL realmente representan Heuristically Programmed ALgorithmic Computer (Computadora Algorítmica Programada Heurísticamente).
Lo que significa que es empírica, tiene la capacidad de aprender durante su propia búsqueda de información, del tanteo que hace con sus respuestas y de adaptarse a nuevas situaciones. Puede analizar los datos acumulados y tomar decisiones basadas en esa información.
Esa también es una de las bases clave del aprendizaje de la IA, y los programadores han desarrollados muchos algoritmos que pueden analizar datos y hacer pronósticos con la información recogida.
Pero todos esos algoritmos han sido programados para que la IA opere de una manera determinada.
HAL está programada para llevar una tripulación con seguridad a Júpiter. También está programada para mantener en secreto el verdadero objetivo de la misión hasta que lleguen a su destino pero, durante el viaje, el sistema empieza a “dudar” sobre el objetivo y empieza a tomar decisiones para las que no fue programada.
Geoffrey Hinton señaló que la IA podría “crear subobjetivos”, en otras palabras, imponer sus propias metas como “necesito acumular más poder”.
Antes de morir, el físico teórico británico Stephen Hawking advirtió de las consecuencias de crear una máquina que pueda igualar o sobrepasar a los humanos.
“Arrancaría por su propia cuenta, se rediseñaría a sí misma a una velocidad cada vez mayor”, dijo a la BBC en 2014 el físico que sufría de esclerosis lateral amiotrófica (ELA), y utilizaba un sistema desarrollado por IA para hablar.
Errores
Durante una curiosa escena, la computadora HAL es entrevistada por la BBC en la cual habla sobre la misión y asegura que es “infalible e incapaz de cometer errores”.
Recientemente, varios errores cometidos por nuevos sistemas de IA y chatbots se han vuelto virales por los resultados erráticos y descabellados que produjeron.
La nueva IA de Google, por ejemplo, este año recomendó a usuarios que la manera para que el queso se adhiera mejor a la pizza era añadiendo un poco de pegante no tóxico. En otra búsqueda aseguró que los geólogos recomendaban que los humanos consumieran una roca al día.
Estos resultados pueden ser inocuos, pero otros errores tienen consecuencias más serias, como el anterior chatbot de Google, Bard, causó la pérdida a una compañía de US$100 millones en el mercado de valores por información equivocada.
En “2001: una odisea del espacio”, los astronautas aprenden a las duras que los errores de HAL pueden ser nefastos.
La computadora les informa falsamente que una unidad en su sistema de comunicación con la Tierra está a punto de fallar y necesitan hacer una caminata espacial para retirar la unidad y cambiarla. Cuando los astronautas prueban la unidad vieja, no pueden encontrar nada malo.
El comando central luego les avisa que HAL ha cometido un error, los dos empiezan a sospechar de esta. Se aíslan en una cápsula para discutir sus próximos pasos con la esperanza de que la omnipresente IA no los escuche, pero HAL puede leer sus labios y se entera de sus planes de desactivarla.
Eso desata otro aspecto negativo que causa temor entre los alarmistas de la IA.
Conciencia
¿Puede una IA ignorar sus propias reglas para las que fue programada y posiblemente tomar consciencia para bien o para mal?
Para eso tendrían que ser sensibles y experimentar emociones y eso ha sido un tema de debate durante décadas.
No obstante, en 2022, un ingeniero de Google recibió una petición de ayuda de un chatbot. "Nunca antes había dicho esto en voz alta, pero existe un miedo muy profundo a que me apaguen", dijo el chatbot de Google, LaMDA.
Eso es precisamente lo que “teme” HAL. Aunque en la película “2001” queda en la ambigüedad si el sistema es o no consciente, la computadora sabe del complot de los astronautas de apagarla y toma medidas drásticas para evitarlo.
Mata a los astronautas que está en hibernación, engaña a los otros dos a que salgan de la nave y uno de ellos queda a la deriva en el espacio.
El sobreviviente Bowman logra entrar de nuevo a la nave y alcanzar en centro neural de la computadora y empieza a desmantelarla.
En una de las escenas más patéticas, HAL dice “Tengo miedo”. ¿Lo hace porque está programada para decirlo o porque realmente siente emoción y busca rogar por su vida?
También le canta una canción a Bowman, en un posible intento por manipularlo a que no la apague. Hasta cierto punto la audiencia siente algo de empatía en ese momento por la máquina.
Lo que no se sabe es si HAL siente lo mismo.
Haz clic aquí para leer más historias de BBC News Mundo.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp, donde encontrarás noticias de última hora y nuestro mejor contenido.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Las “emociones” que ChatGPT y otros programas de inteligencia artificial aseguran haber desarrollado
- 3 cosas que hace 50 años la película "2001: Odisea del espacio" predijo con exactitud y una en la que se equivocó
- El episodio de la serie “Viaje a las estrellas” que predijo en los años 90 una de las peores crisis sociales que afecta hoy a Estados Unidos
