IA: Coherencia sin consciencia

¿La Inteligencia Artificial miente? A veces, ChatGPT inventa datos, referencias, o citas textuales que no existen.

Pero técnicamente, la IA no es capaz de mentir. Porque para mentir es necesario que quien miente, sea consciente de lo que dice y que lo diga con la intención de engañar. La IA no tiene “intenciones”, más allá de sus objetivos de diseño. Y no tiene conciencia. Es decir, no tiene capacidad para experimentar la realidad, para percibirse a sí misma o producir sentido. Aunque aparenta ser un oráculo que lo sabe todo, no es más que una máquina de palabras que baraja y reparte con gran eficiencia la respuesta más probable a nuestras preguntas. Todo lo que nos dice es el resultado de una serie de cálculos que le indican qué formulación lingüística es la más acertada según sus datos estadísticos. Para la IA las palabras están despojadas de significado. Son unidades matemáticas que funcionan en relaciones de distancia, peso y correlación, con las que se puede simular un discurso coherente. Cuando sus cálculos fallan, la apariencia de coherencia se rompe y el usuario detecta la falta de sentido en el discurso. Pero nunca existe un sentido real en sus palabras, porque no responden a un saber. Y por eso, la IA es incapaz de identificar qué es verdadero y qué no.

Pero la IA no solo es inconsciente e ignora la realidad. También es terca. Como dice Byung Chul Han, la computadora es necia, porque no puede dudar. A diferencia del humano, la máquina es incapaz de vacilar. Solo actúa reaccionando inmediatamente frente al estímulo, en función de unos cálculos que nunca cuestionará. Pero es justamente en la vacilación, en el proceso de contemplación de la duda, en donde suelen surgir las respuestas correctas.

En 1983 en plena guerra fría, durante un período de alta tensión nuclear, se disparó una alarma en un centro de defensa aérea en las afueras de Moscú. En la pantalla apareció la palabra “lanzamiento”. La computadora alertaba sobre un ataque nuclear proveniente de una base militar de Estados Unidos. Los satélites indicaban que se había disparado un misil que impactaría en territorio soviético en no más de 20 minutos. Inmediatamente se sumaron 4 alertas más, eran 5 misiles en total. En la pantalla apareció en color rojo la alerta “ataque con misil” mientras la alarma continuaba sonando.

Esa noche, el teniente Stanislav Petrov estaba al mando del monitoreo aéreo. Su deber era informar a sus superiores de inmediato ante cualquier amenaza, para que intentaran neutralizar el ataque y contraatacaran al enemigo. Tenía que tomar rápidamente una decisión. En caso de confirmar la alerta a sus superiores, se lanzarían decenas de misiles atómicos que matarían a miles de personas ydevastarían buena parte del mundo en cuestión de minutos, desatando la tercera guerra mundial. Petrov, según contó, no pudo moverse. Sabía que si informaba los datos registrados a sus superiores procederían con el ataque. Dudaba. Tenía desconfianza en el sistema de monitoreo porque era nuevo y creía que podía fallar. También pensó que era improbable que un ataque estadounidense contara tan solo con 5 misiles y no decenas, como sería esperable. No había ninguna regla sobre cuánto tiempo podía esperar antes de decidir, pero sabía que cada segundo que pasaba restaba tiempo valioso para la operación de respuesta. Finalmente decidió no confiar en la computadora. Llamó a sus superiores y reportó que se trataba de una falsa alarma. Pero no estaba seguro. Continuó dudando hasta el último instante. Pasaron los minutos y no hubo ninguna explosión ni se detectó nada en los radares terrestres. Petrov tenía razón, la computadora se equivocó. Con el tiempo se supo que los rayos del sol, en un ángulo particular e inusual, produjeron que el satélite interpretara la información de forma incorrecta, como si fueran misiles.

¿Qué fue lo que evitó esa catástrofe nuclear? ¿Qué habitaba la duda de Petrov?

Mientras la IA sigue avanzando, y desplazándonos, deberíamos preguntarnos,

¿Qué tipo de decisiones puede tomar una entidad inconsciente? Que no conoce ni comprende la realidad. Que no tiene experiencia, ni saber, ni imaginación, ni afectos, ni instintos, ni deseos, ni temores, ni culpa, ni esperanza.