Red Seguridad 102

88 red seguridad tercer trimestre 2023 opinión En primer lugar, nos encontraremos con que, a medida que las organiza- ciones se vuelven cada vez más depen- dientes de la IA para gestionar su ciber- seguridad, más vulnerables serán a los problemas derivados de un sistema de IA mal entrenada. Una adecuada for- mación de la IA es un proceso delicado que requiere una ingente cantidad de información, tiempo y pruebas que va- liden su correcto funcionamiento. Una IA mal “alimentada” puede derivar en escenarios imprevisibles que afecten perjudicialmente a la ciberseguridad de una entidad. Se deberá prestar especial atención, además, a las vulnerabilida- des en el código de las inteligencias ar- tificiales, siendo recomendable la audi- toría y revisión periódica de las mismas. La IA, asimismo, no es inmune que los actores malintencionados la explo- ten. La misma tecnología que permitirá a las organizaciones reforzar su ciber- seguridad podrá ser utilizada por los de- lincuentes para facilitar y perfeccionar sus actividades ilícitas. Un buen ejem- plo lo encontraremos en la elaboración de ataques de phishing mediante IA. Tradicionalmente, estos ataques de- pendían de la habilidad del delincuente para crear correos electrónicos y sitios web convincentes. Sin embargo, con el advenimiento de la IA, los criminales podrán automatizar y refinar este proce- so generando correos electrónicos de phishing que sean casi indistinguibles de los legítimos, haciéndolos altamente atractivos para las víctimas potenciales. Que los delincuentes puedan enviar de forma masiva y automatizada spear phishing nos empezará a preocupar muy pronto. Otro problema que deberemos abor- dar es el potencial de la IA para facilitar la creación de deep fakes , que son ma- nipulaciones de vídeos o audios de for- ma casi indiscernible de los originales. Mediante estas técnicas se podrá crear contenido falso o engañoso altamente convincente que sea utilizado en técni- cas de ingeniería social para engañar a los individuos con el objeto de revelar información confidencial o para dañar la reputación de una organización. Re- cibir un vídeo falso generado por IA por parte de una persona de nuestra con- fianza solicitando información sensible puede sonar a ciencia ficción, pero pronto será una realidad. Por todo ello se deberán reforzar más que nunca los esfuerzos en formación y concienciación de los trabajadores en materia de ciberseguridad, con un especial énfasis en los ataques elabo- rados mediante IA. Conclusiones Prácticamente todos los ámbitos de la ciberseguridad se verán afectados en mayor o menor medida por la imple- mentación de la IA. Esto incluye sustan- ciales mejoras en la gestión del riesgo tecnológico, incidentes de seguridad, el parcheado de sistemas o la formación, entre otros muchos aspectos. La auto- matización avanzada de tareas, el aná- lisis predictivo de gran granularidad o la creación de contenidos de formación a la carta serán solo algunas de las nove- dades que la IA traerá consigo a nues- tro sector. Estos desarrollos permitirán a las organizaciones ser más eficientes y autónomas en su lucha contra las ci- beramenazas. No obstante, es crucial entender que la IA, por avanzada que sea, no debe ser considerada como una panacea para todos los problemas de ciberseguridad. La IA no debe desplazar por completo a las buenas prácticas de seguridad exis- tentes ni sustituir la valiosa percepción, juicio e intuición humanos. Un riesgo al que nos enfrentamos con la adopción de la IA es la complacencia, que pue- de disminuir nuestra capacidad para el pensamiento crítico y el análisis, habili- dades esenciales para nuestro campo. Además, como con cualquier tecno- logía emergente, la IA plantea desafíos significativos en el área de la ética y la privacidad. Se requerirá un examen constante y detallado de cómo se utiliza para asegurar su manejo responsable. Es fundamental que abordemos proac- tivamente estas cuestiones, evitando el abuso de sus capacidades y garanti- zando que su utilización se lleve a cabo de forma íntegra y ética. De este modo, podremos minimizar cualquier impacto adverso que la IA pueda tener en la se- guridad y privacidad de las personas. En definitiva, el futuro de la ciberse- guridad con la IA parece prometedor, pero es imprescindible abordarlo con precaución y responsabilidad, asegu- rándonos de equilibrar las ventajas potenciales con los posibles riesgos y desafíos que supone su adopción. No en vano, y sin lugar a dudas, ha llegado para quedarse y dará mucho que hablar en los próximos años. La Inteligencia Artificial no es una panacea para todos los problemas de ciberseguridad