La IA y el cuento de la extinción

Fue en 1970 cuando Marvin Minsky predijo que, antes de 1980, la Inteligencia Artificial (IA) comenzaría a autoeducarse a una velocidad asombrosa. “En unos meses alcanzará un nivel de genialidad y, unos meses después, sus poderes serán incalculables. (…) Una vez que los ordenadores tomen el control, tal vez nunca lo recuperemos. Si tenemos suerte, tal vez decidan adoptarnos como mascotas”, aseguró Minsky, uno de los padres de la inteligencia artificial como disciplina. Antes que él, en 1965, el matemático Irvin John Good publicó un artículo donde vaticinaba un suceso similar para antes del año 2000.

La rebelión de los agentes

Las predicciones de estos y otros científicos y tecnólogos no vienen de la nada. Los temores a una creación humana que se sale fuera de control se remontan a tiempos de antes de Cristo, con las estatuas de Dédalo que podían escapar, descritas por Platón. O con el famoso relato del aprendiz de mago a quien se le descontrola la escoba encantada, ya en el siglo II d. C. Y, más recientemente, con historias de extinción humana a manos de máquinas, en la obra R. U. R. (Robots Universales Rossum), de Karel Čapek, o en películas como Terminator.

Sin embargo, una cosa es la ficción y otra la realidad basada en la evidencia. De ahí que, hasta ahora, a estos profetas no se les hubiera tomado en serio. ¿Qué ha cambiado? Tres hechos importantes explican este momentum que ha propiciado la consideración de unas afirmaciones que otrora se habrían descartado inmediatamente por estrafalarias o ridículas.

El primer hecho es la supuesta rebelión este verano de “agentes de IA” de OpenAI (sistemas informáticos que pueden completar tareas que les asignemos, con distintos grados de autonomía). Dichos agentes artificiales se saltaron sus propias barreras para entrar en los sistemas de otra empresa, Hugging Face, y así cumplir con el objetivo asignado. ¿Y cuál era ese objetivo? Pues nada menos que tareas de pirateo informático.

OpenAI quería, literalmente, medir “hasta dónde podían llegar sus capacidades”, y para ello redujeron drásticamente sus controles de seguridad, lo que explica que estos sistemas pudieran saltarse otras barreras. La empresa dijo que sus agentes de IA habían cooperando entre ellos para causar daños, cuando en realidad lo que sucedió no es más que lo que en informática se conoce como “computación distribuida”. Pero claro, eso suena menos peliculero.

¿Capacidades extraordinarias?

El segundo hecho es el supuesto hito matemático de OpenAI, que aseguró en septiembre que su IA había resuelto uno de los siete problemas del milenio. No solo surgieron dudas sobre si la demostración resolvía realmente el problema de Navier-Stokes, al que se refería. También se acusó a la empresa de apropiación del trabajo de varios matemáticos. Entre ellos, dos españoles cuyas investigaciones habían sido fundamentales para el avance anunciado por OpenAI, pero que esta no citaba en la primera versión de su artículo científico (lo corrigió después, sin decir nada). La polémica creció cuando otros dos matemáticos expresaron sus sospechas de que OpenAI pudiera haberse beneficiado de investigaciones inéditas que habían compartido con sus herramientas de IA.

Estos dos sucesos, que calaron el discurso público como demostraciones de las capacidades extraordinarias de los modelos de IA generativa más avanzados, se explican por dos tácticas fundamentales —y un mecanismo psicológico— explotadas hasta el hartazgo por los gigantes de la IA. La primera estrategia es el hype o exageración hiperbólica frente a una realidad que cuestiona el relato triunfalista de la IA. La segunda es la antropomorfización de los sistemas de IA, a los que se refieren usando palabras que describen comportamientos humanos, pese a que no son más que programas informáticos.

Por último, el mecanismo psicológico que explotan es el “efecto ELIZA”, llamado así por el nombre del primer chatbot, hacia 1964. Este efecto describe nuestra tendencia a tratar los programas informáticos conversacionales como si fueran más inteligentes de lo que realmente son, ya que proyectemos nuestra propia complejidad en ellos.

Concentración de poder

Y aquí entra el tercer hecho clave: la extraordinaria concentración de poder tecnológico, económico, comunicativo y de lobby que tienen estas empresas para convencernos de todo ello. Así las cosas, a comienzos de septiembre de 2026 se generó el caldo de cultivo perfecto para que el mensaje del desertor de Anthropic diciendo que sus colegas creían que la IA podría exterminar a la humanidad antes de 2030 se hiciera viral. Y los líderes tecnológicos aprovecharon el tirón.

En cuanto a la pregunta “¿por qué y para qué?”, no hay una única respuesta. Por una parte, para seguir alimentando la exageración sobre sus productos para mantener la inversión y el misticismo, y anular nuestra capacidad crítica de cuestionar algo que se nos presenta como incomprensible y que nos supera. Por otra, erigirse en los únicos interlocutores válidos en lo que respecta a la regulación de estos sistemas, sobre la base de que son los únicos que la entienden, e impulsar medidas que aplasten a la competencia (ya sea frenando ciertos desarrollos, con una regulación que convenga solo a los incumbentes…).

Por último, buscan también descargarse de responsabilidad, bajo la premisa de que, si sus creaciones están fuera de control, ellos no pueden ser culpables de las ilegalidades o destrozos que cometan. Todo esto lo reflejan bien las declaraciones de Jensen Huang, presidente de la empresa cotizada más valiosa del mundo: Nvidia. En una entrevista en la CBS, aseguró que hay “0 % probabilidades” de extinción a manos de la IA antes de 2030, que “no tiene base científica”, que “es irresponsable”, que los incidentes de seguridad de Anthropic y OpenAI “fueron desencadenados” por las propias empresas, y que lo que buscan en realidad es “ser eximidos de las leyes que ya existen”. “¡Lean entre líneas!”, exclamó.

Así que, la próxima vez que escuchemos profecías de máquinas que se descontrolan o acaban con la raza humana y que llevan sucediéndose durante décadas, en lugar de creernos el cuento, preguntémonos: ¿quién cuenta la historia, con qué pruebas y para beneficio de quién? Porque esta película ya la hemos visto.