Esto supone, además de proporcionar ayudas económicas, observar si las personas de todos los niveles de ingresos, edades y condiciones sociales tienen el número de hijos que desean para que sus derechos reproductivos no se vean afectados. Al mismo tiempo, es preciso impulsar políticas económicas y laborales más equitativas; y potenciar sociedades inclusivas, que abran los mercados laborales a todos los colectivos sociales con el fin de que más personas contribuyan activamente a la economía.

En todo caso, la conclusión del UNFPA, el Fondo de Población de las Naciones Unidas, es clara: “A pesar del temor a que la población sea en breve demasiado baja como para sostener las economías, los servicios y las sociedades, los especialistas afirman que el descenso de la natalidad no nos aboca a una catástrofe, sino que es la seña de identidad de una transición demográfica”. En realidad, se prevé que solo 61 países o regiones, de un total de 237, reduzcan su población en un 1% o más entre 2022 y 2050. Cabe recordar que estas cifras suceden con frecuencia a máximos históricos alcanzados tras decenios de mejoras en la salud, el desarrollo y la supervivencia.

Situación en España.

La tasa de fertilidad en España es de 1,19 hijos por mujer, la segunda más baja de la Unión Europea (UE) después de Malta (1,13). Sin embargo, las españolas desearían tener más hijos y empezar a ser madres más jóvenes. Según la Encuesta Merck: Fertilidad en España. Deseos y Realidad (2022), realizada a mujeres de entre 20 y 45 años, las mujeres con intención de ser madres desearían tener un promedio de 2,1 hijos; y, entre las que ya son madres, un 62% querría tener más hijos. La estabilidad económica (95%), la flexibilidad laboral (64%) y el apoyo del cónyuge o pareja en el cuidado de los niños (44%) son las razones que más determinan esta decisión.

Para las españolas, la edad ideal para ser madres por primera vez son los 28 años, pero la media real es de 32,61 años, la más alta de la UE. Esta cifra ha ido creciendo de forma sostenida en los últimos años, pasando de 31,04 años en 2009 a 32,61 en 2021, debido principalmente a motivos económicos.

ESTAMOS ANTE UNA TRANSICIÓN DEMOGRÁFICA QUE SE RELACIONA TAMBIÉN CON LA MAYOR ESPERANZA DE VIDA Y QUE REQUIERE SER ABORDADA DE FORMA INTEGRAL

Aunque en menor medida, en la UE también ha subido la edad de las madres primerizas. En 2013 era de 28,8 años y en 2021 alcanzaba 29,4 años. Las madres primerizas de mayor edad (31 años o más) se encuentran en España, Italia, Luxemburgo, Irlanda y Grecia; mientras que las más jóvenes están en Bulgaria, con 26,5 años. Otro dato significativo es que en los últimos 20 años se han duplicado los nacimientos en madres de más de 40 años, siendo de nuevo España el país con la mayor proporción de éstas (más del 10% de los nacimientos, frente al 5,68% de media europea).

El descenso de la natalidad y la subida de las defunciones hace prever un saldo vegetativo negativo en España durante los 14 próximos años. Aun así, las proyecciones del INE estiman que nuestro país ganaría 4,2 millones de habitantes en este mismo periodo y más de 5 millones hasta 2072 si se mantuvieran las tendencias demográficas actuales. El incremento de población se debería exclusivamente a la migración internacional. En este contexto, la población nacida en España disminuiría paulatinamente y pasaría de significar el 84,5% del total actual al 63,5% en 2072.

ES PRECISO IMPULSAR POLÍTICAS ECONÓMICAS Y LABORALES MÁS EQUITATIVAS Y POTENCIAR SOCIEDADES INCLUSIVAS

Del mismo modo, Europa gana habitantes desde hace décadas gracias a la inmigración. Los últimos datos de Eurostat confirman que la población de la UE volvió a aumentar en 2022 (de 446,7 millones el 1 de enero de 2022 a 448,4 millones el 1 de enero de 2023), tras una interrupción del crecimiento demográfico en 2020 y 2021 debido a la pandemia. Este incremento se atribuye sobre todo a los movimientos migratorios posteriores a la Covid-19 y a la afluencia masiva de personas desplazadas desde Ucrania como consecuencia de la invasión rusa en febrero de 2022.

De los 27 Estados miembros, seis (Irlanda, Francia, Chipre, Luxemburgo, Malta y Suecia) tuvieron un aumento natural y una migración neta positiva. En 14 Estados, entre ellos España, la migración neta positiva fue el motor del desarrollo demográfico, ya que el cambio natural de la población fue negativo; y otros siete países perdieron población en 2022.

Al igual que en España, se espera que en Europa el número de muertes siga al alza debido al envejecimiento de la población y, si las tasas de fertilidad se mantienen en un nivel relativamente bajo, el cambio natural negativo (más muertes que nacimientos) continuará. Si esto se confirma, la disminución o el aumento de la población de la UE en el futuro dependerá fundamentalmente de la migración neta.

Alarmas.

La realidad es que dos terceras partes de la población mundial residen en países donde la fecundidad no llega los 2,1 nacimientos por mujer (lo que se considera el “nivel de reemplazo”) y que cada vez hay más países con una natalidad a la baja. Esto ha dado lugar a que se hable de que, si nada cambia, países enteros podrían colapsar. Algunas personas afirman que la baja tasa de natalidad de algunos países representa un peligro para la seguridad nacional. Otras anticipan que pronto será imposible gestionar sociedades envejecidas, que constituyen una carga en el ámbito de los cuidados.

Nunca en la historia de la humanidad ha habido una divergencia tan notable en las tasas de crecimiento demográfico entre las diferentes regiones del mundo. Además, las medias de edad en los distintos países son más dispares que en ninguna otra época. Mientras que los europeos tienen una edad media de 42,5 años, en África Subsahariana es de 18,7 años.

El informe Estado de la población mundial 2023, publicado por UNFPA, pone de manifiesto estos hechos, pero propone abordarlos con un enfoque alejado de los mensajes alarmistas. “Dado que la población del planeta se ha duplicado con creces en tan solo 50 años y la tasa de fecundidad mundial continúa por encima de los 2,1 nacimientos por mujer, tal vez resulte sorprendente que la idea de una “crisis de despoblación” suscite cada vez más preocupación”, señala. En realidad, estamos ante una transición demográfica que se relaciona también con la mayor esperanza de vida (la población mundial vive ahora casi 28 años más que en 1950) y que requiere ser abordada de forma integral, más allá de estrategias centradas únicamente en subir o bajar cifras.

Capacidad de decisión.

El punto de vista del Estado de la población mundial 2023 es que, más que preocuparse por las tasas de fecundidad, los esfuerzos deben centrarse en facilitar a las mujeres la posibilidad de conciliar sus objetivos de fecundidad con la seguridad económica. Para ello, hay que reforzar las prácticas de cooperación en la crianza y flexibilizar los papeles asignados a cada género.

Esto implica reconocer que los padres y las madres necesitan apoyo para criar a sus hijos y que esta tarea es aún más compleja cuando están solos. A la vez, la igualdad de género es fundamental tanto en el hogar como en el trabajo, por lo que las políticas deberían promover los derechos que reduzcan la brecha entre la fecundidad prevista y la fecundidad real. En este sentido, la División de Población de Naciones Unidas destaca que “la mayoría de los gobiernos con bajas tasas de fecundidad, incluidos aquellos que no cuentan con políticas oficiales para influir en los niveles de fecundidad, han adoptado medidas para incentivar la maternidad, como el derecho a licencia parental remunerada o no remunerada con seguridad laboral, servicios de guardería subvencionados, jornadas laborales flexibles o a tiempo parcial para progenitores, desgravaciones fiscales por hijos a cargo, y prestaciones económicas por hijo a cargo o prestaciones familiares”. Estas políticas sociales y asistenciales se deberían implantar al margen de los problemas de fecundidad.

LOS ESFUERZOS DEBEN CENTRARSE EN FACILITAR A LAS MUJERES LA POSIBILIDAD DE CONCILIAR SUS OBJETIVOS DE FECUNDIDAD CON LA SEGURIDAD ECONÓMICA

En España, desde hace años existe la posibilidad de pedir una excedencia de tres años como máximo para el cuidado de cada descendiente, manteniendo la antigüedad y con derecho a que se reserve el puesto de trabajo durante el primer año. Asimismo, los progenitores pueden solicitar la reducción de hasta el 50% de la jornada para el cuidado de menores de 12 años, con una rebaja proporcional del salario.

Además, desde 2021 se reconoce a los padres 16 semanas de permiso de paternidad retribuido, el mismo que tienen las madres. A esto se han ido sumando ayudas económicas relacionadas con la natalidad, aunque todavía hay avanzar en asuntos como la educación gratuita universal de 0 a 3 años, por citar un ejemplo.

El resto de los países europeos también ofrecen a las familias ayudas a la natalidad y el cuidado de los hijos, en ocasiones muy superiores a las de España. Finlandia, Dinamarca y Noruega figuran entre los más generosos, aunque otros como Alemania han mejorado de forma clara su programa de ayudas. En el país germano, la tasa de fecundidad ha pasado de 1,39 hijos por mujer en 2011 a 1,58 en 2021.

En referencia a la persona se abordó la Ley 8/2021, por la que se reforma la legislación civil y procesal para el apoyo de las personas con discapacidad en el ejercicio de su capacidad jurídica y lo que plantea, tanto desde una perspectiva jurídica, como social.

En los ámbitos de la empresa y la tecnología se reflexionó sobre la ley de transposición de directivas de la UE, que incluye la digitalización de actuaciones notariales. Esta ley permitirá a ciudadanos y empresas realizar online numerosos actos ante el notario que elijan sin necesidad de desplazarse, pero con la misma seguridad jurídica que cuando acuden a una notaría. También se abordó la circulación electrónica de documentos públicos, tanto en el ámbito europeo como iberoamericano; los cambios tecnológicos que se avecinan y la situación del Catastro en Europa.

Inauguración. Durante la apertura intervinieron la consejera de Igualdad, Justicia y Políticas Sociales del Gobierno Vasco, Nerea Melgosa; el presidente del Consejo General del Notariado (CGN), José Ángel Martínez Sanchiz; la vicedecana del Colegio Notarial del País Vasco, Carmen Velasco; y el presidente del Comité de Programa de los Cursos de Verano y catedrático de Derecho Penal de la UPV/EHU, José Luis de la Cuesta.

Nerea Melgosa señaló que, en el marco de la Ley 8/2021 por la que se reforma la legislación civil y procesal para el apoyo a las personas con discapacidad en el ejercicio de su capacidad jurídica, «el Notariado tiene un papel esencial como garante de la autonomía de la voluntad y de los derechos fundamentales de las personas con discapacidad». Y en esa línea, explicó que desde el Gobierno Vasco se está trabajando en el Plan Estratégico de Justicia de Euskadi 2022-2028 cuyo fin es fomentar el acceso a la justicia de todos los ciudadanos en igualdad de condiciones y anunció que «se presentará públicamente el Plan de acción y el Foro Vasco de Justicia y Discapacidad».

José Ángel Martínez Sanchiz, tras dar la bienvenida a ponentes y asistentes, señaló que «las jornadas se llaman Persona, Empresa y Tecnología porque esa denominación marca el perímetro de lo que es la actuación notarial, siempre centrada en las necesidades de la sociedad y en el desarrollo de las empresas y la tecnología».

«Hoy nos centraremos en la ley por la que se reforma la legislación civil y procesal para el apoyo a las personas con discapacidad en el ejercicio de su capacidad jurídica, de gran importancia para el Notariado pues, como en el origen hacían los escribanos, los notarios tenemos la función de conseguir que textos, que a veces son complicados, sean comprensibles para todas las personas y así puedan prestar un consentimiento informado», apuntó el presidente del Consejo General del Notariado.

CON LA NUEVA LEY LAS PERSONAS CON UNA DISCAPACIDAD PUEDEN DESIGNAR, CON LA AYUDA DEL NOTARIO, QUIÉN O QUIÉNES HAN DE PRESTARLES APOYO

Por su parte, José Luis de la Cuesta aseguró que «este año vuelve a incluirse en los temas del curso la discapacidad ya que la nueva ley ha supuesto una auténtica revolución para la sociedad» y agradeció al Notariado la elección de la UPV/EHU como foro de debate.

Para finalizar la inauguración, la vicedecana y anfitriona, Carmen Velasco, dio paso al comienzo de las jornadas en las que, señaló, además de la discapacidad se abordarán «otras cuestiones de suma actualidad como la Ley 11/2023 mediante la cual los notarios podrán autorizar actos jurídicos online por primera vez en la historia».

Persona. Bajo el título Aspectos prácticos de las medidas de apoyo, tuvo lugar el primer coloquio de la primera jornada. Moderado por el abogado Francisco González, de Æquitas, contó con las intervenciones de la magistrada, Patricia Arrizabalaga; la fiscal de sala del Tribunal Supremo para la protección de personas con discapacidad y mayores, María José Segarra; el teniente fiscal de la Comunidad Valenciana y patrono de la Fundación Æquitas, Gonzalo López Ebri; la vicedecana del Colegio Notarial del País Vasco, Carmen Velasco, y el asesor jurídico de Liber y coordinador de la red de Juristas de Plena Inclusión, Torcuato Recover.

Con la nueva ley las personas con una discapacidad pueden designar, mediante escritura pública y con la ayuda del notario, quién o quiénes han de prestarles apoyo y con qué alcance. Para ello se puede, o bien determinar un plan de apoyo que será un sistema hecho «a medida» de las necesidades de cada persona, o establecer apoyos puntuales para realizar cada acto.

Tras casi dos años desde la entrada en vigor de la ley, esta mesa de diálogo abordó la nueva regulación y los aspectos prácticos de las medidas de apoyo. En este sentido, Velasco aseguró que «con esta ley el notario pone una especial atención a lo que la persona es capaz de decir de sí misma y a los apoyos que expresa que necesita para tomar decisiones».

En cuanto a la reforma, López Ebri indicó que «no he leído en mi vida ninguna reforma legislativa que haya valorado más la institución notarial como instituto fiable y seguro para la aplicación de la ley que la 8/2021». «La intervención judicial es el último recurso y como señala el Código Civil, solo en defecto o por insuficiencia de estas medidas de naturaleza voluntaria, y a falta de guarda de hecho que suponga apoyo suficiente, podrá la autoridad judicial adoptar otras supletorias o complementarias», explicó.

Arrizabalaga abordó la importancia de la curatela que «debe ser asistencial y solo cuando no se pueda será representativa, caso en el que se establecerán controles y salvaguardas».

Antes de finalizar el coloquio, Segarra, que entró por vía online, comunicó en directo que acababa de formar parte de la firma de un protocolo entre la Fiscalía General del Estado, las asociaciones bancarias y el Banco de España para asegurar la autonomía financiera de las personas con discapacidad. «Este protocolo protege patrimonialmente a las personas con discapacidad y a los mayores que pueden ser objeto de una influencia excesiva», concluyó.

Finalmente, Recover aseguró que esta ley «ha permitido reconocer el universo de las personas con discapacidad y facilitarles el ejercicio de su capacidad mediante un sistema de apoyos».

El segundo diálogo del día, Aspectos sociales de las medidas de apoyo, contó con el presidente del CERMI, Luis Cayo Pérez Bueno, como moderador, y la participación del director de la Sección Jurídica de la Fundación Æquitas, Manuel Rueda; el director general de la Fundación Kyros, Álvaro Martín Moreno; la responsable del Área de Formación de A La Par, Marta Martínez Vega, y la asesora jurídica de Plena Inclusión, Natalia Pérez Fernández.

Pérez Bueno comenzó el coloquio asegurando que «la visión del sector social de la discapacidad es fundamental para que la reforma civil de la capacidad jurídica llegue de verdad a las personas».

Rueda explicó que «el derecho civil regula cómo las personas se relacionan entre sí y hay algunas que tienen dificultades para actuar como las demás. La solución según la convención de Nueva York, que protege los derechos de las personas con discapacidad, es suministrar un sistema de apoyos a las personas con discapacidad».

Por su parte, Martín Moreno relató lo que una persona con discapacidad le dijo que significaba para ella la ley 8/2021: «Tener discapacidad intelectual no significa que una persona no pueda decidir ni saber qué quiere, solo que necesita apoyo para determinadas cosas, y facilitar esto ayuda a tener una vida independiente».

A la hora de establecer medidas de apoyo la figura del facilitador es muy relevante: «Nuestra intervención empieza con una valoración de las capacidades cognitivas de esa persona a la que escuchamos dándole tiempo para expresarse, y a partir de ahí hacemos una valoración del tipo de apoyos que necesita», aseguró Martínez Vega.

Finalmente, Pérez Fernández explicó la importancia de que las personas con discapacidad comprendan de manera exhaustiva los documentos notariales que firman y, para ello, «desde Plena inclusión España, con Fundación ONCE y la Fundación Æquitas del Notariado, hemos puesto en marcha el proyecto Documentos notariales en lectura fácil, una iniciativa para hacer comprensibles para las personas con discapacidad intelectual documentos notariales tales como un escrito de compraventa, un testamento o un préstamo hipotecario».

Empresa y tecnología. La primera mesa redonda de la segunda jornada se centró en La Identificación Electrónica: Acceso al Portal. Moderada por el delegado de nuevas tecnologías del Notariado español en el Consejo de los Notariados de la Unión Europea (CNUE) y la Unión internacional del Notariado (UINL), Carmelo Llopis, contó como ponentes como el notario y director del curso, Segismundo Álvarez; el director de Seguridad y Nuevas Tecnologías del centro tecnológico del Notariado (Ancert), Enric Hernández; y el investigador de la Universidad Pontificia de Comillas, José Cabrera.

A TRAVÉS DE LA RED IBERFIDES EL NOTARIADO IBEROAMERICANO PUEDE REALIZAR EL INTERCAMBIO DE DOCUMENTOS NOTARIALES

Los participantes abordaron la recién aprobada ley de transposición de directivas de la UE, que incluye la digitalización de actuaciones notariales que permitirá próximamente a ciudadanos y empresas realizar online numerosos actos ante el notario que elijan sin necesidad de desplazarse, pero con la misma seguridad jurídica que cuando acuden a una notaría.

«Se podrán autorizar escrituras de sociedad limitada sin presencia física», explicó Segismundo Álvarez, conservándose el principio de que «el notario dará fe de que conoce a las personas y de haberse asegurado de su identidad». ¿Cómo se hará online? «El Notariado cuenta con una sede electrónica a la que se accede por el Portal Notarial del Ciudadano, que tiene un nivel alto de seguridad», aseguró Enric Hernández. «Para entrar el ciudadano necesitará o bien tener un certificado cualificado (los autorizados por el reglamento EIDAS) o acreditarse gratuitamente en una notaría». «además, el notario tendrá que asegurarse, durante la videoconferencia que se mantenga en el Portal, de la identidad y la capacidad de la persona», añadió Llopis. En definitiva, «la ley no hace cambios respecto a la identificación; la única diferencia es que se realiza en un entorno telemático seguro», señaló Cabrera.

Otorgamiento a distancia en la sede electrónica notarial fue el tema del segundo panel de debate. Dirigido por el delegado de nuevas tecnologías del Notariado español en el CNUE, Gonzalo Cano, estuvo integrado por el presidente del Bundesnotarkammer, Jens Bornmann; el notario Pedro Rincón, y el director de Negocio del centro tecnológico del Notariado, Carles Llach.

Jens Bornmann destacó que en el sistema telemático que utilizan los notarios alemanes para identificar a la persona, «comprobamos si tiene identidad válida (certificado EIDAS) y pedimos que pongan el pasaporte en un dispositivo que lo escanea, a través de una interfaz con el móvil. Es un sistema muy seguro».

Pedro Rincón hizo hincapié en los actos que se podrán hacer online a través del Portal Notarial, como «las pólizas mercantiles y todos los societarios, determinados actos unilaterales como algunos tipos de poderes, etc. además, la ley permite la emisión de copias autorizadas electrónicas», señaló. Carles Llach realizó una demostración, a través del Portal Notarial del Ciudadano, de cómo un usuario podrá constituir una empresa de manera íntegramente online.

La última mesa del día, titulada Circulación del documento notarial electrónico. Proyectos Ibera, Iberfides y Eudoc, estuvo moderada por José Ángel Martínez Sanchiz, y contó con el responsable de webs corporativas de Ancert, Miguel Ángel Molinero; el notario Carmelo Llopis, y la candidata a notaria de la Bundesnotarkammer, Larissa Oebel.

Carmelo Llopis incidió en que «Eudoc es una solución desarrollada por el Consejo General del Notariado y su homólogo alemán, con tecnología del Notariado español basada en certificados electrónicos para el intercambio de documentos notariales, entre ambos países, realizados con firma cualificada».

Para Larissa Oebel esta plataforma será muy útil pues «permitirá intercambiar de una manera segura y rápida documentos notariales en un contexto transfronterizo y eliminará la necesidad del envío postal que tiene un coste económico y de tiempo». Para finalizar la jornada, Miguel Ángel Molinero, explicó mediante una demostración, cómo a través de la red iberfides, el Notariado iberoamericano puede realizar el intercambio de documentos notariales».

LA DIGITALIZACIÓN DE ACTUACIONES NOTARIALES PERMITIRÁ REALIZAR ONLINE NUMEROSOS ACTOS ANTE NOTARIO SIN NECESIDAD DE DESPLAZARSE

Tecnología. El último día del curso hubo dos mesas de diálogo más. La primera versó sobre Tecnología. Los cambios que vienen: e-Wallet, Idas, inteligencia artificial, que fue moderada por el director del curso, Segismundo Álvarez, y contó con la participación del notario Gonzalo Cano, que habló de la E-Wallet «un medio de identificación electrónica que también permitirá al usuario almacenar sus datos de identidad». También contó con la participación del CEO de Mister Houston Data Tech Solutions, ramón Franco, quien señaló que «la tecnología va a ayudar al notario con técnicas robóticas, por ejemplo, a la hora de crear una escritura de forma digital, pero la función notarial es muy amplia por lo que la tecnología tan solo será una herramienta de apoyo» y, por último, Max Wosgein, candidato a notario de la Bundesnotakammer habló sobre la importancia de la colaboración de los distintos notariados europeos y de seguir, desde Bruselas, la evolución de la legislación comunitaria para velar por la preservación de la seguridad jurídica en las futuras directivas.

En la última mesa sobre Tecnología. El catastro en Europa, moderada por el decano del Colegio Notarial de Valencia, Francisco Cantos, intervino el notario Enrique Brancós, que explicó que «los países de la UE describen la finca sobre bases gráficas, más o menos consolidadas por el tiempo. Sólo en España se presenta la especialidad de que no hay dos fincas, la real y la catastral, sino tres: la real, la catastral y la registral». Por su parte, Antonio Jiménez Clar que sostuvo que «la representación gráfica de los bienes inmuebles es una asignatura en nuestro Derecho». También acudieron al acto Piermassimo Pavese, y Els Dewulf, responsables de los catastros italiano y belga, respectivamente, que explicaron a los asistentes cómo es la función catastral y su regulación en sendos países.

La inteligencia artificial (IA) es ya habitual en áreas como la salud (herramientas de diagnóstico de enfermedades), la movilidad (sistemas de conducción), la agricultura (herramientas de seguimiento y análisis del suelo) o la seguridad de los datos que custodian las empresas. En nuestro día a día, los smartphones permiten el reconocimiento facial, ofrecen asistentes de voz y disponen de sistemas de rastreo que proporcionan información muy valiosa sobre las preferencias y hábitos de cada usuario gracias a la IA.

Todas estas tecnologías tienen un gran potencial para generar beneficios sociales, crecimiento económico y competitividad, pero también plantean preocupaciones sobre la seguridad y la protección de los derechos fundamentales de la ciudadanía. En este contexto, la Comisión Europea presentó en abril de 2021 una propuesta de Ley de Inteligencia Artificial (Ley AI) que se encuentra muy avanzada. Recientemente, el Parlamento Europeo, tras introducir varias enmiendas al texto inicial, aprobó un proyecto de mandato de negociación que será llevado al Consejo de Europa para darle forma final.

El eurodiputado Dragos Tudorache (Renew, Rumania), uno de los ponentes, ha subrayado que “la Ley de IA es probablemente la pieza legislativa más importante en este mandato. Es la primera legislación de este tipo en todo el mundo, lo que significa que la Unión Europea (UE) puede liderar el camino para hacer que la IA sea confiable».

LA LEGISLACIÓN EUROPEA PROHIBIRÁ LOS SISTEMAS DE IDENTIFICACIÓN BIOMÉTRICA REMOTA EN TIEMPO REAL EN ESPACIOS DE ACCESO PÚBLICO

Más prohibiciones.

La futura ley establece obligaciones para proveedores y usuarios en función del nivel de riesgo que la IA pueda generar e identifica cuatro tipos de riesgo: inadmisible, alto, limitado y mínimo.

Los sistemas de IA con un nivel inadmisible de riesgo estarán estrictamente prohibidos. Aquí se incluyen aquellos que implementan técnicas subliminales o deliberadamente manipuladoras (ejemplo: juguetes activados por voz que fomenten comportamientos peligrosos en los niños); explotan las vulnerabilidades del ser humano; o se utilizan para clasificar a las personas en función de su comportamiento social, estatus socioeconómico o personal.

Las últimas enmiendas del Parlamento Europeo han incluido en este nivel nuevas prohibiciones relacionadas con los usos intrusivos y discriminatorios de los sistemas de IA. Son los siguientes:

• Los sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.
• Los sistemas de identificación biométrica a distancia a posteriori, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial.
• Los sistemas de categorización biométrica que utilizan características sensibles como el género, la raza, la etnia, la religión o la orientación política.
• Los sistemas policiales predictivos basados en perfiles, ubicación o conducta delictiva pasada.
• Los sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas.
• El raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV (circuito cerrado de televisión) para crear bases de datos de reconocimiento facial violando los derechos humanos y el derecho a la privacidad.

Dentro de lo que se considera inteligencia artificial de alto riesgo, se han añadido los daños a la salud, la seguridad, los derechos fundamentales de las personas y el medioambiente. En esta misma categoría están los sistemas de IA que tratan de influir en los votantes en las campañas políticas y los sistemas de recomendación utilizados por las plataformas de redes sociales.

LAS AUTORIDADES EUROPEAS IMPULSARÁN EL DERECHO DE LOS CIUDADANOS A PONER QUEJAS SOBRE LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL

Transparencia.

También se contemplan nuevas exigencias para los sistemas de IA de uso general con el fin de asegurar su fiabilidad y proteger a los usuarios de un fenómeno tan extendido como la desinformación.

Los modelos básicos generativos, como ChatGPT, tendrán que cumplir con requisitos de transparencia adicionales como revelar que el contenido fue generado por IA, evitar que se cree contenido ilegal y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento de la aplicación.

Igualmente, los sistemas de IA de riesgo limitado deben cumplir con unas normas de transparencia que permitan a los usuarios tomar decisiones informadas. Después de interactuar con las aplicaciones, el usuario podrá decidir si desea continuar usándolas y deberá saber siempre cuándo interactúa con inteligencia artificial. Esto incluye modelos de IA que generan o manipulan contenido de imagen, audio o video, como las deepfakes (un ejemplo que se viralizó rápidamente fue el video en el que un falso Barak Obama insultaba a Donald Trump).

Estas reglas tendrán exenciones cuando se realicen actividades de investigación y en componentes de IA proporcionados bajo licencias de código abierto. En estos casos y para favorecer la innovación, la ley promueve entornos de pruebas controlados (sandboxes regulatorios) definidos por las autoridades para probar la IA antes de su implementación.

Permanencia.

Otro aspecto clave de la nueva normativa es que apuesta por una definición uniforme de IA, tecnológicamente neutral, que pueda aplicarse a los sistemas actuales y futuros. Como ha señalado el eurodiputado Brando Benifei (S&D, Italia), ponente de la ley, “estamos a punto de implementar una legislación histórica que debe resistir el desafío del tiempo”.

Además, las autoridades europeas quieren impulsar el derecho de los ciudadanos a poner quejas sobre los sistemas de IA y a recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que afecten significativamente sus derechos. Esto ha llevado a reformar el papel de la Oficina Europea de IA, que se encargará de monitorear cómo se implementa el reglamento de IA en cada país.

LOS MODELOS BÁSICOS GENERATIVOS, COMO CHATGPT, DEBERÁN REVELAR QUE EL CONTENIDO FUE GENERADO POR IA Y EVITAR LA CREACIÓN DE CONTENIDO ILEGAL

Si todo va como está previsto, en el segundo semestre de 2023 tendrán lugar las conversaciones con los Estados miembros de la UE en el Consejo de Europa sobre la forma final de la ley. El objetivo es llegar a un acuerdo a finales de este año.