Red Seguridad 103

104 red seguridad cuarto trimestre 2023 opinión El interés por los últimos avances en in- teligencia artificial (IA) crece de manera exponencial. El uso de sistemas como ChatGPT o la automatización de pro- cesos son claros ejemplos. De hecho, Europa se encuentra en las etapas fina- les de la aprobación de un Reglamento sobre IA, un nuevo marco jurídico dise- ñado para abordar no solo los aspectos técnicos, sino también cuestiones éticas y desafíos de aplicación en diversos sec- tores. Este reglamento presta especial aten- ción a la calidad de los datos, la segu- ridad, la transparencia, la privacidad, la no discriminación y la supervisión hu- mana. El objetivo es garantizar que la IA utilizada en Europa cumpla con los más altos estándares, en consonancia con los valores y derechos fundamentales de la Unión Europea (UE). En abril de 2021, la Comisión Europea presentó la propuesta de Reglamento y, dos años después, el Parlamento Euro- peo adoptó su posición sobre el texto. Ahora comienzan las conversaciones sobre su forma final en el Consejo, y el objetivo es alcanzar un acuerdo a finales de este año. Una vez entre en vigor, el Reglamento será de aplicación directa en todos los Estados miembros de la Unión Europea sin necesidad de normas de transposición. Aspectos clave Pero ¿qué aspectos hay que tener en cuenta sobre el Reglamento de IA?: 1. Aplica a proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la Unión, con inde- pendencia de si están establecidos en la UE o en un tercer país. También a los usuarios de sistemas de IA que se encuentren en la Unión y a los pro- veedores y usuarios de sistemas de IA ubicados en un tercer país cuando la información de salida generada por el sistema se utilice en la UE. No se aplicará a los sistemas de IA utilizados exclusivamente con fines mi- litares, ni cuando las autoridades públi- cas utilicen estos sistemas en el marco de acuerdos internacionales con fines de cumplimento legal y cooperación judicial con la Unión o con los Estados miembros. 2. El texto incorpora nuevas definiciones de términos relevantes como: “mode- lo fundacional” (a los que pertenecen ChatGPT, Bard o LLaMA), “sistema de inteligencia artificial”, “riesgo signi- ficativo”, “identificación biométrica”, “ultrafalsificación” ( deepfake ) o “espa- cio controlado de pruebas” ( sandbox ), entre otros. 3. Entre las novedades introducidas en la última versión, cabe destacar la re- gulación específica y completa sobre los modelos fundacionales (eficiencia energética y medioambiental, gestión de calidad y riesgos, inscripción en un registro europeo…) y los requisitos específicos que se prevén para los sis- temas de IA generativa, como la obli- gación de revelar que los contenidos han sido generados por IA, diseñar Ocho claves sobre la regulación de la IA en la Unión Europea A ndrea F ernández Consultora de Derecho TIC y Protección de Datos de Secure&IT El Reglamento de IA establece una serie de obligaciones en función del nivel de riesgo