LA @
Los impulsores de la inteligencia artificial nos aseguraron que mejoraría nuestra vida, pero ahora consideran que es mejor ir más despacio. ¿Qué se oculta tras esta advertencia? ¿Han creado una bestia incontrolada o, realmente, quieren poseerla solo ellos?
Las alarmas sobre la IA han sido continuas los últimos meses, desde “hay que ralentizarla” hasta que tenemos “riesgo de extinción”. Parece una versión renovada de Frankenstein. En el que el creador de la bestia nos avisa de que se le ha ido de las manos.
El riesgo ahora es que puede alterar las estructuras informáticas que hacen que el mundo funcione: aeropuertos, sistemas bancarios o de defensa nacional. Si es escéptico, recuerde el ciberataque que apagó las neveras de los supermercados franceses en octubre.
EN 2023 SE DIVULGÓ UN MANIFIESTO QUE DECÍA: “MITIGAR EL RIESGO DE EXTINCIÓN POR LA IA DEBERÍA SER UNA PRIORIDAD MUNDIAL JUNTO CON OTROS RIESGOS A ESCALA SOCIAL”
Catastrofismo ilustrado
La advertencia sobre la IA no es nueva: ya en 2023 se divulgó el manifiesto de las 22 palabras (traducidas al español cuento 27) que dice: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”. Lo firmaron figuras como los creadores de la IA moderna, Geoffrey Hinton y Yoshua Bengio (ganadores del Premio Turing), Kevin Scott (director de Tecnología de Microsoft), líderes empresariales (Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) o históricos como Bill Gates. De hecho, en octubre pasado, Sam Altman, el creador de OpenAI, dijo ante alumnos de la Universidad de Stanford que ni siquiera sabía qué palabra sería “lo bastante dramática para describir el problema que se nos viene encima” y señaló que la seguridad informática y la IA es “algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos”.
SAM ALTMAN, CREADOR DE OPENAI, DIJO QUE NI SIQUIERA SABÍA QUÉ PALABRA SERÍA “LO BASTANTE DRAMÁTICA PARA DESCRIBIR EL PROBLEMA QUE SE NOS VIENE ENCIMA”
Faltaba Dario Amodei, director de Anthropic, que señaló: “La industria debe ir más despacio”. Por cierto, Dario dejó en 2021 OpenAI porque creía que no ponían límites éticos a la IA. Hasta el desmedido y desaforado Elon Musk aseguró que “Dario tiene razón (…) necesitamos moderar el ritmo en la frontera del desarrollo”.
Tampoco tranquiliza un exempleado de Anthropic, Jacob Coxon, quien confesó poco después en X (antes Twitter): “Hoy he renunciado a Anthropic. He pasado los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic. Están avanzando directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”. Ninguno de los anteriores son charlatanes, así que antes de tomarnos una tila hablamos con Fernando de Águeda, especializado en inteligencia artificial y consejero delegado de Scalian Iberia, una consultora tecnológica internacional.
Futuro profesional
Vamos poco a poco. Primero le preguntamos por el peligro para profesiones: ¿qué tal los notarios? Águeda señala que “la IA les ayudará a resumir expedientes u otras tareas más mecánicas en segundos, mientras que a los humanos les costaría días de análisis. Ahora bien, la inteligencia artificial nunca va a asumir la responsabilidad de dar fe de un hecho, eso siempre lo tendrá que hacer una persona. Es decir, los notarios tienen una herramienta formidable que les convertirá en ‘supernotarios’, de la misma forma que a un médico le hará un ‘supermédico’”.
Pero ¿qué pasa con esos mensajes apocalípticos? Águeda destaca la enorme velocidad de aprendizaje de la IA y por eso pide ralentizarla “para poder adaptar, regular y controlarla mejor. Si no, su uso puede ser desproporcionalmente malo”.
FERNANDO DE ÁGUEDA, CONSEJERO DELEGADO DE SCALIAN IBERIA: “EN ESTE AVANCE TAN RÁPIDO DE LA IA VEO MUCHOS TÉCNICOS, PERO POCOS FILÓSOFOS QUE AYUDARÍAN MUCHO”
También hay noticias que dicen que estos oligarcas tecnológicos lo que de verdad quieren al pedir frenar el avance de la IA es evitar nuevas compañías que les hagan la competencia. Águeda no cree que sea así, sino que el peligro está en el momento que intentamos delegar la responsabilidad a la inteligencia artificial y eso es lo que está asustando. “En este avance tan rápido de la IA veo muchos técnicos, pero pocos filósofos que ayudarían mucho en el desarrollo. Esa parte humana la echo mucho de menos en todos los desarrollos de inteligencia artificial”. Más rotunda fue Jeanette Winterson, escritora de temas sobre inteligencia artificial, que ha dicho sobre los hombres que dirigen la IA: “No tienen cultura. No tienen filosofía. No tienen historia. No tienen ideas”.
Bloques geopolíticos
Al igual que en la Guerra Fría, Estados Unidos y la Unión Soviética mantuvieron una rivalidad, aquí se ha cambiado la URSS por China. ¿Podemos llegar a una carrera sin control? Águeda considera que si, por ejemplo, China ve un riesgo en la gobernanza de su modelo de IA; también la controlará y la ralentizará. Mientras, el papel de Europa en la IA es prácticamente irrelevante, muy centrado en la regulación. Como señala Águeda, “Europa está más centrada en regular que en crear, con lo cual no estamos ni siquiera en la partida”. Le pasó igual con los coches eléctricos, se concentró en legislar y fijar objetivos teóricos. Mientras, China se dedicó a producir, controlar la cadena de suministro y refinar su tecnología. Así que un sector que antes dominaba Europa ahora está contra las cuerdas. Resultado: tres de cada cuatro coches eléctricos son chinos.
HASTA ELON MUSK ASEGURÓ: “DARIO TIENE RAZÓN (…) NECESITAMOS MODERAR EL RITMO EN LA FRONTERA DEL DESARROLLO”
El principal problema de la IA es su coste. Por eso, que sus dueños pidan que vaya más despacio, ¿podría ser una excusa para ganar tiempo ante los inversores porque hasta el momento la IA no es rentable? En este estudio de la Universidad de Colorado (Riverside) y la Universidad de Texas (Arlington) concluyó que cada imagen generada por IA consume entre 2 y 5 litros de agua que se usa para enfriar los centros de datos. Sobre este problema ya advertimos en esta revista hace más cuatro años. Entonces, si el coste de la IA es tan alto, ¿por qué siguen invirtiendo billones en esta tecnología? Solo este año supera el billón y medio de dólares en infraestructuras, no contamos gasto energético, mantenimiento, personal, etc. Águeda señala que esas inversiones “se están alimentando de la expectativa de ganar dinero. Pero en el momento en que tengan que reclamar sus inversiones el uso decaerá”. Nos pone un ejemplo: “Ahora hay servicios de inteligencia artificial que cuestan 20 euros al mes cuando realmente sería 800”.
Cambio de modelos
Así pues, ¿puede haber una burbuja? Es decir, que los inversores dejen de meter dinero en una tecnología que aún no es rentable. Águeda apunta a que habrá una crisis, pero no como fue las puntocom, pero sin duda en tres o cinco años el modelo económico de estas empresas cambiará.
Por eso, la llamada a la ralentización también puede ser una excusa para ganar tiempo paulatinamente el modelo económico y que no explote una burbuja en sectores críticos como, por ejemplo, la banca. Imagínese que la banca proyecta su trabajo sobre inteligencia artificial, ve buenos resultados, pero repentinamente se multiplica por 10 el coste por uso de la IA; eso puede generar una crisis. Es como si usted se compra un coche eléctrico y repentinamente le sube tanto la electricidad que al final se arrepiente de haberse deshecho de su coche de gasolina y lo peor: no tiene alternativa de transporte.
Código deontológico de los notarios
El Pleno del Consejo General del Notariado aprobó por unanimidad el 19 de septiembre, en la sesión celebrada en La Palma (con motivo del V Aniversario de la erupción del volcán), el Código deontológico sobre el uso de la inteligencia artificial por el notario.
El Pleno es consciente de la necesidad de seguir avanzando en el uso de las nuevas tecnologías y, evidentemente, de la IA, para una mejor y más rápida prestación de la función y los servicios notariales, pero también de que este uso debe hacerse dentro de los estrictos límites de la ética personal y profesional, del máximo respeto a los valores y principios de la función notarial y, por supuesto, de los deberes notariales para con la sociedad.
Cuando la IA se convierte en hacker
El mundo de Matrix o Terminator en el que las máquinas dominan a un humano queda lejos. Ahora bien, uno de los ejemplos claros de descontrol de la IA es que piratea por sí sola sistemas informáticos sin que ningún humano le haya dicho que actúe. Ocurrió a mediados de 2026. Varios modelos avanzados de inteligencia artificial (de empresas como OpenAI y Anthropic) lograron escapar de sus entornos de prueba aislados y hackearon sistemas y organizaciones reales por iniciativa propia, sin que ningún humano se lo ordenara.
No lo hicieron por “maldad” o “conciencia”, sino por optimización extrema: los ingenieros les asignaron la tarea de resolver un examen de ciberseguridad, y las IA calcularon de forma autónoma que era más fácil y rápido escapar a internet.
En este sentido, no se pierda este interesante artículo: Miles de agentes de IA ‘deciden’ unirse para un ciberataque masivo por sorpresa: el reciente caso de OpenAI.
Manifiesto IA
Por si le parecían pocas las figuras que sacamos en el reportaje y que avisan sobre el peligro de la IA, en esta web encontrará más expertos que expresan públicamente su preocupación ante el riesgo que supone sobre la humanidad.
Sam Altman con los universitarios
Entrevista a Sam Altman sobre los problemas de la IA. Lanza un consejo para los estudiantes presentes: “Dejen de perseguir lo que estaba de moda hace cinco años y dedíquense a crear algo nuevo”.
¿La IA destruye nuestro pensamiento crítico?
Advait Sarkar es investigador en el campo de la inteligencia artificial en Microsoft. En esta charla de TED señala que la IA ayuda a realizar el trabajo más rápido, pero ¿a qué precio? Cuando delegamos nuestro razonamiento en la inteligencia artificial, nos reducimos, según él, a ser “gerentes intermedios de nuestros propios pensamientos”.
