Red Seguridad 105

red seguridad segundo trimestre 2024 33 inteligencia artificial monográfico como su utilización como sistemas ad- versarios; es decir, donde la IA es utili- zada para causar daños a sociedades, empresas y ciudadanos. Adopción y gobernanza La implementación efectiva de la IA re- quiere una adopción cuidadosa y una gobernanza robusta. Organizaciones de todos los tamaños están adoptando estrategias para incorporar tecnologías de IA, pero esto debe estar acompaña- do por un marco de gobernanza sólido que asegure su uso ético y responsable. Eso incluye establecer roles claros para su supervisión, implementar políticas de transparencia y rendición de cuentas y asegurar que todos los sistemas de IA sean auditables y sus operaciones com- prensibles para los usuarios finales. Adicionalmente, tanto durante las fa- ses de entrenamiento como de acceso continuo a los datos que traten el mode- lo, como las salidas de la IA, se deben contemplar la calidad del dato y el con- trol y supervisión de los mismos. Las organizaciones deben identificar y desarrollar, como parte de esa estra- tegia de adopción, tratando aspectos como el cuerpo regulatorio, la identifi- cación y asunción de responsabilidades e incluso la forma de identificar, evaluar y abordar las diferentes iniciativas (¿a través de un comité de inteligencia artifi- cial?). Además, las evaluaciones de ries- gos de unos y otros tipos, los controles y la supervisión deben ser los cimientos de la adopción y crecimiento de la IA empresarial. Aspectos legales A medida que la IA se convierte en una parte integral de más aplicaciones co- merciales y productos y, sobre todo, conforme la sociedad y no solo los pro- cesos internos de las empresas se ven afectadas, las implicaciones legales y regulatorias se vuelven más complejas. Las leyes de protección de datos, los de- rechos de propiedad intelectual y las re- gulaciones específicas del sector están evolucionando para abordar los nuevos desafíos que presenta la tecnología. Los desarrollos recientes en la legis- lación de la Unión Europea y otras re- giones destacan, en este sentido, la ne- cesidad de un enfoque proactivo para gestionar los riesgos legales asociados con la IA. Ética y cumplimiento Además de los desafíos legales, la éti- ca en el uso de la IA es un campo de creciente importancia. Los principios de justicia, transparencia y responsabilidad deben ser integrados en todas las fases del desarrollo y despliegue de la IA. Las organizaciones han de esforzarse por diseñar sistemas de IA que no solo sean eficientes, sino también justos y libres de prejuicios, garantizando que los be- neficios de la IA se distribuyan equitati- vamente en toda la sociedad. En el fondo, la IA analizará y sustenta- rá decisiones que hasta el momento se regían por una ética humana. Por tanto, el nuevo tratamiento no debe ser oscu- ro y las reglas de evaluación y decisión tienen que ser trazables y responder a la debida ética empresarial en sus relacio- nes con clientes, socios y empleados, en particular, y con sociedad en general. Ciberseguridad La IA está revolucionando la ciberse- guridad al proporcionar capacidades avanzadas de detección y respuesta. La implementación efectiva de la IA requiere una adopción cuidadosa y una gobernanza robusta