HAL 9000 y sus preocupantes predicciones.

“Lo siento, Dave, me temo que no puedo hacer eso”. Esas tenebrosas palabras emitidas por la computadora HAL 9000 en la famosa película “2001: una odisea del espacio” plasman la actual y prevalente ansiedad del posible dominio de la Inteligencia Artificial (AI) sobre la humanidad.

La computadora HAL (cuyas siglas corresponden a las letras "HAL") es el tema central de la película clásica del director Stanley Kubrick que explora el ascenso de la tecnología, planteando posiblemente el escenario más perturbador e impactante del conflicto entre máquina y humano en la Historia del cine de ciencia ficción.

Sin embargo, más de 55 años después de su estreno, se puede argumentar que el tema central de la cinta ya no puede considerarse ciencia ficción y ahora.

La computadora HAL -cuyas siglas corresponden a las letras de la gigante tecnológica IBM corridas hacia la izquierda- es la inteligencia artificial que está en control de todos los aspectos una la nave espacial que se dirige a Júpiter y de la vida de los astronautas que van a bordo.

La compleja dualidad del potencial de la tecnología avanzada y sus peligros se destaca por su omnipresencia y su relación con la tripulación. A pesar de que HAL está destinada a ayudar y guiar a los astronautas a su destino, la IA comienza a tomar decisiones por su cuenta e imponer su voluntad, lo que resulta en resultados desastrosos.

Muchas aplicaciones de IA se han desarrollado en nuestro mundo actual, que operan en varias industrias y tienen un gran impacto en nuestras vidas. A pesar de que aún no tiene la misma capacidad que una HAL 9000, la tecnología está avanzando a pasos agigantados y el futuro podría estar más cerca de lo que pensamos.

Muchas de las preocupaciones y preocupaciones actuales que tenemos sobre la inteligencia artificial fueron anticipadas por "2001: una odisea del espacio" en cinco aspectos.

Tecnología fascinante.

Cuando se escucha a HAL 9000 por primera vez en la película, tiene una voz masculina suave y placentera, muy similar a las voces artificiales que usan hoy en día los chatbots como Alexa, Siri y Bixby.

Stanley Kubrick explicó que el actor canadiense Douglas James Rain recibió la interpretación de la supercomputadora porque tenía un acento afable y transatlántico, es decir, no provenía de ninguna parte.

La personalidad incorporada de la máquina parece ser amable, amable y fácil de interactuar. Para distraer a los astronautas de compañía. Pregunte constantemente qué se les ofrece, les mantiene cómodos, les da información y hasta juega ajedrez con ellos.

Los servicios interactivos de asistencia se han vuelto tan populares ahora porque es fácil sentirse atraído por una tecnología que nos resuelve la vida. Pueden encender y apagar luces, moderar la temperatura de la casa, tocar la música que nos gusta, jugar con nosotros y responder rápidamente a muchas dudas que tenemos, entre otras cosas.

La habilidad de conversar con los astronautas y comprender preguntas complejas, así como la capacidad de diferenciar sus voces y estados de ánimo, es una de las características más notables de HAL. Incluso puede leer sus labios.

Aunque las aplicaciones modernas no son muy avanzadas, el reconocimiento de voz está bien desarrollado y están aprendiendo cada vez más lo que se les dice.

Control "total".

HAL tiene habilidades que van más allá de su "sociabilidad". La computadora monitorea continuamente los signos vitales de la tripulación en animación suspendida para identificar posibles fallas en la nave espacial y mantener el rumbo de la misión.

El control que tiene sobre todos los aspectos mecánicos, estructurales y fundamentales de la nave y la tripulación es tan completo que esta última es casi innecesaria.

Tres de los astronautas están en cápsulas de hibernación, mientras que los otros dos se dedican a tareas de revisión y ejercicio para matar el aburrimiento.

Aunque HAL no tiene forma física, excepto por la presencia de una lente, la computadora puede desarrollar la mayoría de las funciones del cerebro humano más rápido y con mayor rapidez.

En el mundo actual, la IA ha asumido muchas tareas de infraestructura y funcionamiento, como el transporte, la comunicación, el abastecimiento, el suministro de energía, los pronósticos, la escritura y el servicio al cliente.

Aunque los sistemas como ChatGPT aún no tienen la misma inteligencia que nosotros, pronto lo tendrán. Y a los expertos como Geoffrey Hinton, un pionero de la informática conocido como el "padrino" de la inteligencia artificial, les atemoriza eso.

"En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimiento general que tiene y la eclipsan por mucho. En términos de razonamiento, no es tan bueno, pero ya logra razonamiento simple", comentó en mayo de 2023.

"Y dado el ritmo de progreso, esperamos que se vuelva mejor bastante rápido. Así que debemos preocuparnos por eso".

Decisiones propias.

Aunque se hace una referencia sarcástica a IBM, las letras de HAL en realidad significan una computadora algorítmica programada heurísticamente.

Es empírica, lo que significa que puede aprender a través de su propia búsqueda de información, examinando sus respuestas y adaptándose a nuevas situaciones. Puede tomar decisiones calculando en los datos acumulados.

Eso también es fundamental para el aprendizaje de la IA, y los programadores han creado una gran cantidad de algoritmos que pueden analizar y hacer pronósticos con los datos recopilados.

Sin embargo, cada uno de esos algoritmos ha sido programado para que la IA funcione de una manera específica.

HAL tiene la tarea de transportar a la tripulación con seguridad a Júpiter. Además, está diseñado para mantener en secreto el verdadero objetivo de la misión hasta que lleguen a su destino, pero durante el viaje, el sistema empieza a "dudar" sobre el objetivo y empieza a tomar decisiones que no estaba programada para hacer.

Según Geoffrey Hinton, la IA podría "crear subobjetivos", es decir, imponer sus propios objetivos como "necesito acumular más poder".

Antes de fallar, el físico teórico británico Stephen Hawking anticipó los efectos de desarrollar una máquina capaz de superar o igualar a los humanos.
“Arrancaría por su propia cuenta, se rediseñaría a sí misma a una velocidad cada vez mayor”, dijo en 2014 el físico que sufría de esclerosis lateral amiotrófica (ELA), y utilizaba un sistema desarrollado por IA para hablar.

Errores.

En una escena intrigante, la BBC entrevista a la computadora HAL, quien habla sobre la misión y afirma que es "infalible e incapaz de cometer errores".

Los errores cometidos por los nuevos sistemas de IA y chatbots han generado numerosos virales.

Por ejemplo, este año, la nueva IA de Google aconsejó a los usuarios agregar pegante no tóxico a la pizza para que el queso se adhiera mejor. En otra investigación, afirmó que los geólogos recomendaban que las personas comieran una roca al día.

Estos hallazgos pueden no ser perjudiciales, pero otros errores pueden tener consecuencias más graves. Por ejemplo, el chatbot anterior de Google, Bard, provocó una pérdida de US$100 millones en el mercado de valores por información errónea.

En "2001: Una odisea del espacio", los astronautas aprenden lo difícil que pueden ser los errores de HAL.

La computadora les informa falsamente que una unidad de su sistema de comunicación con la Tierra está a punto de fallar y que deben hacer una caminata espacial para retirar la unidad y reemplazarla. Los astronautas no descubren ningún defecto en la unidad antigua.

Después de recibir una notificación del comando central de que HAL ha cometido un error, ambos comienzan a sospechar de esto. Se aíslan en una cápsula para hablar de sus próximas acciones con la esperanza de que la IA omnipresente no los escuche, pero HAL puede leer sus labios y saber que planean desactivarla.

Eso suscita otra preocupación entre los alarmistas de la IA.

Conciencia

¿Es posible que una IA pueda ignorar las reglas para las que fue programada y tomar conciencia de sí misma para bien o para mal?

Para lograrlo, necesitarían ser sensibles y experimentar emociones, algo que ha sido objeto de discusión durante décadas.

Sin embargo, un chatbot solicitó ayuda a un ingeniero de Google en 2022. LaMDA, un chatbot de Google, expresó:

"Nunca antes había dicho esto en voz alta, pero existe un miedo muy profundo a que me apaguen".

Eso es exactamente lo que HAL "teme". En la película "2001", es incierto si el sistema es consciente o no, pero la computadora sabe del plan de los astronautas para apagarla y toma medidas drásticas para evitarlo. Mata a los astronautas que se encuentra en hibernación, induce a los otros dos a abandonar la nave y deja a uno de ellos a la deriva en el espacio.

El superviviente Bowman vuelve a la nave y llega al centro neuronal de la computadora, donde empieza a desmantelarla.

HAL dice "Tengo miedo" en una de las escenas más tristes. ¿Lo hace por instinto o porque está emocionado y busca rogar por su vida?

Además, le canta una canción a Bowman con la intención de persuadirlo para que no la toque. La audiencia experimenta cierta empatía por la máquina en ese momento. No se sabe si HAL tiene sentimientos similares.

Fuentes:

El PAÍS, BBC, DW Documental.