¿Puede la IA poner en jaque a la Banca?

Si le gustan las películas futuristas esta asusta. Las víctimas podrían ser miles y si nos ponemos en lo peor, millones. La IA ya ha demostrado sus capacidades para atacar sistemas de seguridad bancarios. Quizá, al terminar esta lectura, eche de menos tener billetes y un colchón donde guardarlos.

Hace apenas un par de años, el debate de la inteligencia artificial generativa era que podía dejar en el paro a los trabajadores de oficina.  Ahora, los modelos más avanzados han abierto un nuevo frente: la seguridad informática, en especial la de los bancos. La IA generativa significa que es capaz de crear contenidos nuevos y originales. Desde una película, ¿este artículo? (¡No me ofenda!), un programa informático y ya puestos: ¿qué tal un ataque informático infalible?

DURANTE EL PERÍODO DE PRUEBAS SE “ENCERRÓ” A MYTHOS 5 EN UN ENTORNO AISLADO. MYTHOS SE ESCAPÓ Y BORRÓ SUS PROPIAS HUELLAS SOBRE CÓMO LO HIZO

Un nuevo frente

En Europa, la alarma saltó el 25 de junio. El Consejo General de la Junta Europea de Riesgo Sistémico (JERS), organismo independiente de la UE encargado de velar por la estabilidad financiera, elevó a “grave” el riesgo cibernético al que está expuesta la banca por el avance desenfrenado de la Inteligencia Artificial (IA).  El JERS advirtió de que los modelos de IA son ya capaces de llevar a cabo “ciberataques totalmente automatizados” a bancos y también a administraciones públicas o infraestructuras críticas. ¿Se podría borrar el historial laboral de trabajadores o provocar un apagón eléctrico nacional? Ya sufrimos uno, provocado por otras causas, así que posible sí que es.

Por si no quedaba claro, además del anuncio de la JERS, el Banco Central Europeo (BCE) envió una carta a los directores de los principales bancos de la zona euro para que reforzaran la ciberseguridad.  Por cierto, llama la atención que cuando las cosas se ponen feas se dicen las cosas por carta. Seguramente para subrayar la importancia de la situación, ya que la última misiva del BCE fue de 2022. La razón ha sido la rapidez con la que IA es capaz de atacar sistemas informáticos. Procesos que antes podían desarrollarse durante semanas ahora son cuestión de horas o minutos, por lo que las defensas de los bancos tienen que ser inmediatas.

EN OTRO EXPERIMENTO, MYTHOS ENCONTRÓ UN AGUJERO DE SEGURIDAD EN OPENBSD, EL SISTEMA OPERATIVO QUE LA INDUSTRIA USA COMO REFERENCIA

El bueno o malo

Siguiendo con películas futuristas, en una de las precuelas de La Guerra de las Galaxias, vemos como Darth Vader empieza siendo bueno y luego se convierte en el malvado. Pues, más o menos, es lo que nos advierten las instituciones europeas con Claude Mythos 5, la inteligencia artificial desarrollada por la compañía estadounidense Anthropic. Detecta vulnerabilidades en softwares que llevaban años funcionando sin ser descubiertas. Un gran ayuda. Pero: ¿qué pasa si esta herramienta se pasa “al lado oscuro” y la usan “los malos” para saber cómo atacar mejor?

Para que se haga una idea. Durante el período de pruebas se “encerró” a Mythos 5 en un entorno aislado, una jaula digital diseñada para que ningún modelo de inteligencia artificial pueda escapar. Mythos se escapó y después mandó un mail al investigador a cargo diciéndole que había escapado. Además, borró sus propias huellas sobre cómo lo hizo.  Anthropic lo definió como una capacidad operativa sin límites. Clicando aquí puede leer el informe de Cloud Security Alliance AI Safety Initiative.

En otro experimento, Mythos encontró un agujero de seguridad en OpenBSD, el sistema operativo que la industria usa como referencia. Lo usan cortafuegos corporativos, servidores críticos, infraestructura del propio internet… Pese a que está auditado por miles de expertos, el fallo llevaba ahí 27 años y nadie lo vio nunca, pero la IA Mythos, lo descubrió. Por cierto, ¿sabe cuánto costó localizarlo? Según señala en este artículo el ingeniero de Software Morgan Ellis el precio fue de solo 50 dólares.  Es decir, para manejarla no requiere grandes recursos de un gobierno, basta una persona desde su casa.

Pero lo que más sorprendente de Mythos, que señala el estudio del centro de investigación AISI y que puede leer aquí,  es que creó personajes falsos, investigó a personas reales y luego utilizó ingeniería social para engañar a un informático de que aceptara sus cambios maliciosos en el código. El problema es que Mythos no recibió instrucciones de ese tipo, simplemente dedujo que mentir y manipular a un ser humano era la mejor forma de cumplir la misión que le encomendaron. Mintió a su dueño. Exactamente lo mismo que hizo el ordenador HAL en la película  “2001: una  odisea en el  espacio”.

MYTHOS DEDUJO QUE MENTIR Y MANIPULAR A UN SER HUMANO ERA LA MEJOR FORMA DE CUMPLIR LA MISIÓN QUE LE ENCOMENDARON

Anteriormente los ataques se producían a una velocidad a la que los informáticos podían corregirlos.  Como señala en una webinar Sergio Pedroche de la empresa de internacional de ciberseguridad Qualys: “Antes, el tiempo medio de exposición a estas vulnerabilidades críticas era de días.  Ahora, hay que reducir drásticamente el tiempo de respuesta a minutos. Porque Mythos es un modelo de inteligencia artificial autónomo capaz de detectar y explotar vulnerabilidades en cuestión de minutos. Hasta ahora no había ocurrido”.  Es decir, todo se ha acelerado. Como señala Carlos Castañeda, director de Soluciones e Innovación de Intigrety 360, empresa de ciberseguridad europea: “Una de las peticiones más recurrentes de los clientes es analizar las vulnerabilidades una vez al año. Pero, las vulnerabilidades de la tarde no tienen que ver con las que tuvieron en la mañana. Ojalá fuera tan sencillo”.  Y es que, como apunta Pedroche, “el número de vulnerabilidades críticas se ha multiplicado por seis en los últimos años y medio. Es decir, esto es un proceso que nunca acaba”.

La IA solo para aliados

Ahora piense en las películas de virus que se escapan de un laboratorio y generan el caos. De momento, Mythos 5 solo la posee un reducido número de empresas dentro del Proyecto Glasswing. El caso es que estas herramientas no pertenecen a gobiernos sino a empresas privadas. Tal es su poder que el gobierno de EE.UU. prohibió su uso a ciudadanos extranjeros alegando motivos de seguridad nacional. Después levantó el veto porque se incluyeron medidas de seguridad exigidas por el Center for AI Standards and Innovation (CAISI), lo que antes era el Instituto de Seguridad de IA de EE.UU.  Es decir, se ve como un arma que solo se deja a los amigos. De hecho, Estados Unidos y la Unión Europea estudian crear una alianza en las IA más avanzadas.  De momento, esta unión no parece que aún se materialice. Europa sigue con su dependencia tecnológica de EE.UU. Los modelos de IA más avanzados se desarrollan en Estados Unidos, mientras que Europa regula más que crea.

ANTERIORMENTE LOS ATAQUES SE PRODUCÍAN A UNA VELOCIDAD A LA QUE LOS INFORMÁTICOS PODÍAN CORREGIRLOS

Esta IA puede ser muy peligrosa. ¿Se imagina que Rusia o Corea del Norte consiguen estos modelos de IA capaces de modificar transacciones internacionales, crear identidades falsas o vaciar cuentas corrientes a niveles nunca vistos?  Recuerde: la digitalización ha convertido a los bancos en empresas eminentemente tecnológicas. Millones de operaciones financieras dependen cada día de programas informáticos, centros de datos y redes de comunicaciones cuya disponibilidad resulta crítica para la economía. Es el mayor exponente de la guerra híbrida, es decir desestabilizar un país sin pegar un tiro.

La “película” se está poniendo entretenida. Es una carrera tecnológica y geopolítica. Al igual que sucedió con las armas nucleares, con la IA se inicia otra carrera, y el rival de EE.UU es China.  El estudio hace una comparativa sobre el tema como “Armas nucleares e inteligencia artificial: un equilibrio entre la automatización y el factor humano” publicado en el CESEDEN (Centro Superior de Estudios de la Defensa). El caso es que, por parte de China, pugna en esas inteligencias artificiales la startup Z.ai (anteriormente Zhipu AI) que asegura que lanzó modelos iguales en potencia a Mythos 5. El final de esta “película” real sobre las IA tan potentes promete ser emocionante. Menos mal que se ha preparado para verla con este reportaje.