¿Podría la IA crear pruebas falsas?

Confieso que me enfado conmigo mismo por el tiempo que malgasto viendo videos en redes sociales. El enfado es mayor porque sospecho que la mayoría son falsos y han sido generados por IA. Así que mi tiempo de visionado aumenta intentando averiguar si ese video tan impactante que veo es real o no.  El último: como una mujer se escondía en el maletero de su coche justo antes de que se le echara encima una jauría de lobos.  Tardé unas horas en detectar una “alucinación” de la Inteligencia Artificial en la imagen.  La “alucinación” sucede cuando la IA se inventa algo para completar la situación, en este caso, una pata se doblaba de forma no natural.

Ataque contra la verdad

“Por muchas horas que los observes, cada vez son más los videos o fotos que son indistinguibles de uno real. Los jueces tendrán un grandísimo problema”, nos apunta Alejandro Romero, ingeniero de telecomunicaciones y experto en Cloud e Inteligencia Artificial.

De hecho, el mayor experto en detección de deepfakes del mundo, Hany Farid, ha tirado la toalla. Como confiesa en este reportaje de New York Times ya no se ve capaz de distinguir lo que es real de lo que no es. Hizo esta declaración tras analizar la difusión viral de un vídeo de un supuesto impacto de un misil estadounidense en una escuela de Irán. Pese a que dedicó un día a analizar la secuencia frame a frame (antiguamente se decía “fotograma a fotograma”) examinando la geometría de las sombras, el retraso del sonido de la explosión según las leyes de la física y la longitud en píxeles del proyectil, ni él ni otros expertos supieron dictaminar si era o no falso.

Aparte de no distinguir real de irreal, también es evidente que la verdad queda en desventaja.  Porque si un video se viraliza en minutos, saber si es real es una labor de muchas horas, días incluso.  De hecho, el propio Hany fue víctima de una usurpación de identidad en la que clonaron su voz. Desde entonces, cada vez que habla con un familiar por teléfono se dicen una palabra pactada para saber que son ellos realmente. ¿Se extenderá este nivel de absoluta desconfianza?

No hay humano que lo distinga

“Lo de buscar sombras, detalles en algún borde, ya no tiene ningún sentido. Para el ojo humano hay deepfakes indistinguibles. Incluso un ruido de fondo mal conseguido, que generalmente delataba un video falso o un audio, cada vez está más perfeccionado. Normalmente la IA consigue voces demasiado limpias”, apunta Alejandro Romero.

Se están llegando a niveles increíbles. El más llamativo lo vemos en ciberseguridad: hay ataques de virus creados con IA que, a su vez, son contraatacados con otros antivirus IA. Pues igual sucederá con los videos, audios o cualquier prueba fraudulenta generada por IA. Solo la propia IA podrá demostrar que son un engaño”, señala Alejandro Romero. “Cada vez salen modelos de Inteligencia Artificial más especializados en generar textos y vídeos con mejoras sorprendentes … Lo único que dictaminará que son verdaderos o falsos son los “metadatos”. Se trata de la información que va adjunta al archivo y que nos dice cuando se creó, en qué dispositivos, etc. Es como su DNI digital.  Estos metadatos y el contexto de la prueba de vídeo y audio cobrarán más importancia para certificar la autenticidad.

La contundencia de un vídeo o grabación de una conversación serán puesta en entredicho.  “La veracidad implícita que tenían, desaparece. Tendrás que concordarla con otro tipo de complementos que justifiquen que esa prueba es cierta” asegura Romero. Dudar de su autenticidad ya se ha convertido en un recurso al que acuden abogados para anular la prueba. Lo hemos visto en algunos juicios de corrupción, por ejemplo, en el caso Ábalos en el Tribunal Supremo. El acusado, a través de sus peritos, negaba que su voz fuera la que aparecía en las grabaciones incriminatorias. Sin embargo, los forenses de la Guardia Civil concluyeron que los archivos eran auténticos.  La IA aún no logra replicar con exactitud los patrones de respiración, las pausas y los microtemblores propios de la voz humana. En cualquier caso, con esto consiguió alargar el proceso. ¿Se imaginan que se hiciera con cada prueba?

La IA, ¿puede inculparnos?

Hay posibilidades inquietantes de la IA respecto al uso en un juicio: “¿Qué pasa si pongo tu cara en una grabación de una persona que está en la escena de un crimen?” Como señala Alejandro Romero, “cada vez será más fácil porque se aceleran los lanzamientos de modelos más potentes de Inteligencia Artificial y cada vez son más capaces de generar ese realismo”. Nos podríamos encontrar en este caso que nos plantea Alejandro: “Tienes antecedentes y te han visto discutir con esa persona. Has estado varias veces en su casa y por tanto hay huellas. Yo, que te odio, soy un testigo falso y digo que la tarde del crimen estuviste en casa de la víctima. Nos falta la guinda: genero un vídeo en el que se ve como le matas; la típica imagen de la cámara de seguridad dentro de una casa”. Sin duda, es un caso exagerado, y habría que ver más circunstancias, pero como concluye Alejandro Romero “es totalmente plausible, y no es costoso. Por cien euros tienes programas de inteligencia artificial que lo pueden hacer. También en sentido inverso: generarte una coartada. Por ejemplo, que aparezcas en un sitio cuando realmente estabas en el lugar del crimen. Hay IA gratuitas que pueden generar un vídeo en el que apareces dando una conferencia”. Para resolver en un juzgado las dudas de veracidad de estas pruebas se necesitan recursos. “Se necesitarán cada vez más peritos. Antes un pantallazo de un email podría servir de prueba, ahora no. Mientras, los juzgados siguen atascados. Honestamente, no creo que estén preparados para estas situaciones” concluye Romero.

Volvamos al caso de la coartada en el que se le ve dando una conferencia. Si quiere contrastar usted mismo si ese lugar podría existir realmente o si ha sido generado por IA, debería emplear horas, o incluso, días.  Sin embargo, como apunta Alejandro Romero, “la IA es la única capaz de decirte si esa imagen o alguna parecida ya existe en otros lugares de internet y la imagen que ves se ha inspirado en ella”. En este caso, lo que hace es buscar patrones y, a partir de ahí ocurre un threshold. Se trata del umbral o el límite que marcan a cada IA para que salte de una categoría a otra. Ese umbral puede ser variable, por ejemplo, que se den tres ocurrencias para determinar que, efectivamente, esa imagen o ese vídeo es falso. Por ejemplo, que una sombra no concuerde con la luz, que un borde sea antinatural o que en un fragmento la voz sea demasiado limpia. Si se dan las tres es cuando esa IA determina la falsedad.

Jurisprudencia “alucinada”

Además de pruebas falsas, podemos encontrarnos con jurisprudencia “alucinada”. Es decir, inventada por la IA. Como bien saben, la IA cuando no sabe como responder a algo se lo inventa: “alucina”. No lo hace a propósito, sino que, cuando no dispone de información suficiente, genera la respuesta más probable, pero esta no tiene porque ser cierta.  Por ejemplo, todas las aves tienen alas, las aves que vuelan tienen alas. La gallina es un ave que tiene alas, por lo tanto, si una IA no tuviera información concreta sobre gallinas dictaminaría que las gallinas vuelan.  Pruebe a pedirle a una IA gratuita que cree una imagen de dos manos entrecruzadas. Seguramente, si es gratuita, se hará un lío con los dedos e incluso en alguna mano creará hasta seis. Pues bien, con los textos pasa algo parecido, cuando no lo sabe se inventa la respuesta más creíble, pero no tiene porque ser cierta.

El caso es que el Tribunal Superior de Justicia de Canarias en un auto de 10 de febrero de 2026 multó a un abogado por citar 48 sentencias falsas generadas por IA sin verificación.  El tribunal calificó la conducta del letrado “como una desatención grave de deberes profesionales básicos, constitutiva de una infracción del deber de buena fe procesal y de falta de respeto al Tribunal”.

Otro caso es el del Tribunal Superior de Xustiza de Galicia (TSXG), que abrió en junio una investigación por posible mala fe procesal contra un abogado que presentó un recurso judicial elaborado con ayuda de inteligencia artificial sin comprobar adecuadamente su contenido. Los magistrados detectaron numerosas referencias erróneas, sentencias inexistentes y citas jurisprudenciales inventadas. Hay que recordar que un abogado tiene la obligación de verificar cada dato, argumento o referencia legal antes de presentar un escrito ante los tribunales.

Y si esa obligación la tiene un abogado mucho más la Fiscalía y el juez instructor. Este caso, supuestamente, ocurrió en el juzgado de instrucción nº5 de Ceuta en enero de este año. La Fiscalía fue la primera en echar mano una doctrina del Supremo que, según el abogado, Rachid Mohamed, no existe y de la que posteriormente se sirvió el juez. En su queja ante el CGPJ el letrado afea al magistrado “la ausencia absoluta de control y verificación” por hacer suya la argumentación de la Fiscalía sin comprobarla.