Red Seguridad 105

red seguridad segundo trimestre 2024 47 inteligencia artificial monográfico del SOC, analizando de forma auto- mática incidentes de ciberseguridad y realizando recomendaciones de re- mediación. Informes de ciberseguridad. Generan informes en lenguaje natural a partir de eventos de ciberseguridad, redu- ciendo el tiempo de proceso. Detección o generación de código seguro. Utilizan modelos avanzados como GPT-4 en los procesos de re- visión de código o generan ejemplos de código seguro para los desarrolla- dores, actuando como asesor auto- matizado. Identificación de ciberataques. Ge- neran descripciones en lenguaje natu- ral de patrones de ataque, comporta- mientos, vectores de entrada, técnicas y motivaciones y las comparan con los logs de la infraestructura afectada. Desarrollo de guías éticas. Propor- cionan guías éticas de uso para siste- mas de IA, generando explicaciones y recomendaciones en lenguaje natural basadas en los principios y marcos de trabajo éticos existentes. También ela- boran casos de estudio y escenarios éticos para la educación y entrena- miento de desarrolladores y usuarios. Mejora de la efectividad de las tecno- logías de ciberseguridad. Se integran con sistemas de detección de intrusos para detectar y alertar amenazas en tiempo real, generando en lenguaje natural descripciones de los patrones de ataque y su comportamiento. Detección de malware . Entrenadas en los malware existentes y sus varian- tes, clasifican un elemento de código como malware y generan el reporte y los métodos de contención correspon- dientes. En conclusión, los LLM y la IA gene- rativa son tecnologías prometedoras y cuentan con una extensa lista de casos de usos ya operativos para mejorar sig- nificativamente la ciberseguridad. Sin embargo, es importante ser conscientes de los retos y desafíos que plantean es- tas tecnologías para su implementación, así como de los riesgos inherentes de su potencial uso inadecuado. Su adop- ción masiva y su incorporación al SOC moderno y los equipos de ciberdefensa permitirá en un futuro cercano alcanzar nuevos retos en cuanto a eficacia, velo- cidad y mejora de la postura de seguri- dad de las organizaciones. Gestión integral Conscientes de esta necesidad, en Mne- mo hemos comenzado a dotar a nuestra plataforma de gestión integral de ciber- seguridad, EagleSight, de un abanico de funcionalidades apoyadas en IA, ML y NLP que incluyen en su roadmap para 2024 y 2025 capacidades como las si- guientes: Mejorar la fiabilidad de los procesos de análisis y detección de vulnerabi- lidades desde múltiples orígenes me- diante modelos de IA/ML supervisada. Calcular el índice de riesgo total de cada activo mediante un modelo de IA/ ML sobre sus vulnerabilidades y la inte- ligencia de amenazas relacionadas. Threat Intelligence : Consultar median- te NLP la probabilidad de existencia de vulnerabilidades en las soluciones de los principales fabricantes de seguri- dad del mercado, analizando median- te técnicas de ML toda su información pública relevante. Recopilar datos de configuración y uso de los activos aplicando técnicas de descubrimiento pasivo de vulnerabili- dades sobre la información semántica de configuración de cada activo. Algoritmos avanzados para la iden- tificación de phishing , los cuales, mediante comparación de imágenes, permitirán la identificación de webs fraudulentas de forma automática me- diante dos métodos de ML: uno visual y otro semántico. Guiar y automatizar la respuesta a incidentes: Acelerar los procesos de respuesta y ejecutar acciones auto- máticas de generación de defensas. Mientras tanto, seguiremos observan- do de forma activa y contrarrestando de forma efectiva los nuevos casos de uso de los ciberdelincuentes que con la pro- gresiva adopción de estas tecnologías irán apareciendo.