El Reglamento europeo de Inteligencia Artificial, a examen
Contribuir al conocimiento y análisis de esta norma fue el objetivo de la sesión organizada por la Cátedra ICADE-Fundación Notariado Seguridad Jurídica en la Sociedad Digital, celebrada en la Facultad de Derecho (ICADE) de la Universidad Pontificia Comillas.
REDACCIÓN
- Mail: [email protected]
El reglamento europeo se propone algo tan difícil como promover la adopción de una inteligencia artificial centrada en las personas y fiable, que garantice un alto nivel de protección de la salud, la seguridad y los derechos fundamentales, así como de la democracia, el Estado de derecho y la protección del medio ambiente contra los posibles efectos nocivos de esta tecnología, sin que ello suponga un freno a su desarrollo e, incluso, promoviendo la innovación en este ámbito.
Tareas automatizadas
En la sesión se abordó la cuestión de si es técnicamente posible y también social y políticamente aceptable, que la tarea de los juristas y jueces pueda ser automatizada y asumida en todo o en parte por dispositivos y aplicaciones de IA.
Tal y como indicó el director de la Cátedra, el notario Manuel González-Meneses, la normativa contenida en el reglamento es muy extensa, muy técnica y extraordinariamente compleja. “Se trata de una norma que afecta a cuestiones de gran relevancia económica. Son muchos los intereses económicos, pero también políticos e ideológicos que están en juego, y, sin conocer todo su trasfondo, es muy difícil entender muchas partes de esta regulación”, declaró.
La sesión contó con la participación de dos jóvenes investigadores expertos en las cuestiones jurídicas planteadas por las nuevas tecnologías de la información, que han seguido especialmente el proceso de elaboración del reglamento: Gustavo Gil (Senior Researcher en el Karlsruhe Institute of Technology) y Paul Friedl (Senior Researcher en el Karlsruhe Institute of Technology y Affiliate Researcher del Information Law Institute de Nueva York).
En su ponencia Replanteamiento del enfoque basado en el riesgo de la Ley de IA, Gustavo Gil comenzó haciendo referencia a cómo apareció y fue evolucionando el modelo regulatorio basado en diferentes niveles de riesgo a lo largo del proceso legislativo, desde las primeras iniciativas en el año 2018 hasta llegar al reglamento aprobado por el Parlamento Europeo. En su opinión, en esta última versión se distinguen unas “prácticas de IA” prohibidas, unos “sistemas de IA de alto riesgo” -cuyos proveedores y distribuidores están sometidos a unas determinadas obligaciones-, unos sistemas de “riesgo limitado” o afectados por un riesgo específico de transparencia, y unos sistemas de riesgo mínimo, que quedarían fuera de la regulación.
Gil Gasiola cree que la actual clasificación “prácticamente genera más preguntas que respuestas y deberá seguir estudiándose y evolucionando”.
Aprendizaje automático
Paul Friedl dedicó su ponencia al tratamiento de los “modelos fundacionales” en el Reglamento UE de IA. Los modelos fundacionales (foundation models) son aludidos en el reglamento como sistemas de IA de propósito general (GPAI), cuya manifestación más conocida son los modelos de large language processing como el ChatGPT de OpenAI, sistemas de aprendizaje automático que se entrenan con grandes cantidades de datos para desarrollar capacidades con diferentes aplicaciones.
Friedl comenzó exponiendo la peculiar cadena de suplido que afecta a esta modalidad de AI, en la que se generan varias capas de desarrollo y aplicación sobre el modelo computacional de base suministrado por el proveedor último; para aludir a continuación a los diferentes riesgos que presentan estos sistemas de GPAI para los usuarios, como defectos de rendimiento y robustez, sesgo y discriminación, incidencias en privacidad y ciberseguridad, mal uso, y falta de transparencia.
ESTE REGLAMENTO EUROPEO SE PROPONE ALGO TAN DIFÍCIL COMO PROMOVER LA ADOPCIÓN DE UNA INTELIGENCIA ARTIFICIAL CENTRADA EN LAS PERSONAS Y FIABLE
El ponente también se ocupó de la posible incidencia de esta modalidad de IA en la protección de los derechos de autor, así como en la protección de los datos personales. En lo relativo a los primeros, considera que lo más destacado es la normativa que especifica que no se podrá entrenar a los sistemas de GPAI con materiales sujetos a copyright siempre y cuando sus autores hayan expresado de forma específica que estos no pueden ser utilizados para el entrenamiento de sistemas de IA. Sin embargo, manifestó muchas dudas sobre la aplicación práctica de esta norma, ya que no queda claro cómo los autores deben expresar sus reservas y, sobre todo, que no hay un protocolo para obligar a las empresas proveedoras de estos sistemas a su cumplimiento.
En cuanto a la protección de datos, pese a que en Europa ya existe una normativa bastante extensa sobre esta cuestión, Friedl considera que la IA puede acentuar los problemas actuales, especialmente en lo relativo a memorización y filtración de datos privados, apropiación indebida de datos, tergiversación y violación de la intimidad. Su gran preocupación es que, debido al aprendizaje constante que realizan los sistemas fundacionales, con una pequeña cantidad de datos y una interacción suficientemente prolongada con el usuario, el sistema es capaz de intuir otros datos de este y registrarlos sin su consentimiento.
Premios Cerca de los que están cerca
Fundación Æquitas y Fundación Notariado, con la colaboración de la Plataforma de Mayores y Pensionistas, han convocado la tercera edición de estos premios, que tienen por objetivo reconocer la labor de las asociaciones y de las entidades sin ánimo de lucro que trabajan para mejorar el bienestar de las personas mayores.
En esta nueva cita se mantienen las categorías de ‘mayores’ y ‘mayores con discapacidad’, dotadas con 6.000€ cada una, y se crea un premio honorífico a una institución de reconocida trayectoria por el impacto de su labor en este grupo de edad.
Las candidaturas están abiertas a todo tipo de iniciativas de ámbito local, autonómico o nacional que presenten proyectos que mejoren y dignifiquen la vida de las personas mayores en un amplio espectro de iniciativas, tanto las que fomenten una vida activa y saludable, como las culturales y educativas, o las orientadas a cultivar las relaciones sociales y el acompañamiento de los mayores para hacer frente a la soledad no deseada.
El plazo de recepción de candidaturas está abierto hasta el 10 de julio de 2024. Las bases del concurso y el formulario de inscripción se pueden descargar en las respectivas páginas web de Fundación Aequitas, Fundación Notariado y en Plataforma de Mayores y Pensionistas
III Torneo Benéfico de Pádel
Los colegios notariales de España están organizando torneos de pádel entre sus notarios con objeto de dotar económicamente al proyecto. Además, se ha creado una ‘Fila 0’ para todos aquellos notarios que deseen colaborar con la iniciativa.
No tenía ni idea de adónde ir. Al principio existía la posibilidad de trasladarse al oeste de Ucrania para vivir más o menos en calma, o a los Cárpatos, un lugar idílico en medio de la naturaleza. Allí teníamos unos amigos y fuimos hasta una aldea cerca de Leópolis, donde nos quedamos tres días. Pero siguiendo las noticias, al ver a toda aquella gente que, a pesar del frío, esperaban en la frontera con sus niños y las maletas intentando salir de Ucrania, hablé con la dueña del apartamento. Su hija trabajaba en una empresa que ofrecía a sus trabajadores la posibilidad de llegar a Cracovia en autobuses. Le pregunté si había alguna posibilidad de comprar tres plazas en alguno de ellos, pudo conseguirlas, y salimos de Ucrania. Al día siguiente era el Día de la Mujer y cuando mi marido me llamó para felicitarme le dije: “Gracias, estamos ya en Polonia”. Noté que se quedaba en shock porque nos habíamos ido alejando más de nuestra ciudad.