El pasado 9 de diciembre, la Unión Europea anunció el acuerdo alcanzado entre el Consejo y el Parlamento acerca de la regulación reglamentaria de la inteligencia artificial (IA) con el objetivo de poder dar respuesta a la necesidad de disponer de normas armonizadas en dicha materia para que sea utilizada de manera segura, respetando los derechos fundamentales de los ciudadanos y los valores de la UE, a la vez que facilitando la inversión e innovación.
El acuerdo, que tiene su origen en la propuesta de regulación de la Comisión en el año 2021, tiene un carácter provisional, siendo necesarias aún diversas fases para concretar aspectos técnicos y formales del reglamento. Una vez aprobado por el Parlamento y el Consejo, empezará a aplicarse dos años después de su entrada en vigor, por lo que se espera que tenga efectos a partir del año 2026.
Se introducen diversos criterios para diferenciar a la inteligencia artificial de otros sistemas de software tradicionales, además de otorgarle una definición clara a la IA, que sería la siguiente: “un sistema concebido para funcionar con elementos de autonomía que, a partir de datos e información generados por máquinas o por seres humanos, infiere la manera de alcanzar una serie de objetivos, utilizando para ello estrategias de aprendizaje automático o estrategias basadas en la lógica y el conocimiento, y produce información de salida generada por el sistema…”.
Se establecen criterios para prohibir diversas prácticas que puedan llegar a atentar contra derechos fundamentales. Estas prácticas incluyen
- la introducción de un sistema que pueda alterar de manera sustancial el comportamiento de las personas, pudiendo provocar perjuicios físicos o psicológicos,
- el uso de un sistema que pueda aprovechar vulnerabilidades de un grupo específico de personas,
- la clasificación de las personas de acuerdo con su comportamiento social o características personales provocando tratos perjudiciales o desfavorables hacia determinadas personas o grupos,
- el uso en espacios públicos de sistemas de identificación biométrica en tiempo real salvo en situaciones tasadas, y,
- el análisis y reconocimiento de las emociones de las personas en el ámbito laboral y en las instituciones de enseñanza.
Respecto a las situaciones en las que se permite el uso en espacios públicos de los sistemas de identificación biométrica remota en tiempo real, se dispone que “estará supeditado a la concesión de una autorización previa por parte de una autoridad judicial o una autoridad administrativa independiente del Estado miembro donde vaya a utilizarse dicho sistema, que la otorgarán previa solicitud motivada y de conformidad con las normas detalladas del Derecho interno[…]. No obstante, en una situación de urgencia debidamente justificada, se podrá empezar a utilizar el sistema sin autorización, siempre que se solicite dicha autorización sin demora indebida mientras se esté utilizando el sistema de IA y que, en caso de que se deniegue la autorización, deje de utilizarse el sistema inmediatamente”.
Se establecen condiciones acerca de las sanciones, que deberán ser “efectivas, proporcionadas y disuasorias”, y deberán tener en cuenta el tamaño de las empresas y su viabilidad económica. Serán los estados miembros quienes deberán determinar el régimen de sanciones y garantizarán su aplicación efectiva, debiendo comunicar a la Comisión el régimen y las medidas establecidas. El incumplimiento de la normativa puede acarrear sanciones de hasta 35 millones de euros, teniendo en cuenta el tamaño y el volumen de negocio de las empresas infractoras, con un límite de hasta un 6% de su volumen de negocio, y de un 3% en las pymes y empresas emergentes. Las personas físicas o jurídicas podrán presentar reclamaciones ante las autoridades que vigilen el cumplimiento del reglamento.
En cuanto al apoyo la innovación, se introducen los espacios controlados de pruebas para la inteligencia artificial, que permite a los investigadores desarrollar y probar sus sistemas en un espacio que recrea condiciones reales. Introduce también diversas ayudas a las empresas de menor tamaño y de nueva creación, limitando la carga administrativa a la que se deben someter.
Siendo la Unión Europea pionera mundial en cuanto a la introducción de una normativa que regule esta tecnología, será de interés la reacción de las empresas e inversores, quienes deberán determinar si deciden entrar o permanecer en el mercado europeo, o bien acudir a otros mercados en los cuales la falta de regulación permita un mayor margen de desarrollo.
Oscar Vilá
Vilá Abogados
Para más información, contacte con:
22 de diciembre de 2023
