Red Seguridad 105

58 red seguridad segundo trimestre 2024 monográfico inteligencia artificial La inteligencia artificial generativa (IA Gen), impulsada por la versatilidad de los modelos fundacionales, ofrece un abani- co de oportunidades que está transfor- mando diversas industrias y prácticas. Estos modelos, que pueden adaptarse a una amplia gama de tareas, permiten a las empresas y a los investigadores abordar problemas complejos con una eficiencia sin precedentes. Por ejemplo, pueden facilitar la personalización en el marketing, mejorar la precisión de los diagnósticos médicos y acelerar el desa- rrollo de soluciones innovadoras en cam- pos como la sostenibilidad ambiental. Además, la capacidad de estos mode- los para aprender de grandes conjuntos de datos y generar contenido nuevo y relevante puede potenciar la creativi- dad humana, posibilitando la creación de arte, música y literatura de maneras nuevas y emocionantes. Por otro lado, la IA Gen también está abriendo un abanico de oportunidades en el ámbito empresarial. Esta tecnolo- gía permite el nacimiento de soluciones innovadoras que pueden transformar procesos, productos y servicios, ofre- ciendo una ventaja competitiva significa- tiva. Asimismo, la IA Gen puede impulsar la personalización a gran escala, permi- tiendo a las compañías ofrecer experien- cias únicas y adaptadas a cada cliente. La adaptabilidad de esta tecnología también facilita la reconfiguración de roles profesionales hacia tareas más estratégicas, lo que puede resultar en la creación de nuevos empleos y en la transformación de los existentes. Sin embargo, para capturar el valor po- tencial de la IA Gen, las empresas deben estar dispuestas a realizar cambios orga- nizativos y tecnológicos significativos, lo que incluye la inversión en capacitación y el desarrollo de una infraestructura de datos robusta. Desafíos éticos No obstante, la IA Gen también plantea una serie de desafíos y preocupaciones éticas que deben abordarse para garan- tizar su uso responsable y beneficioso para la sociedad. Uno de los principales retos es la definición de políticas y pro- cedimientos claros que abarquen todo el ciclo de vida de los modelos de IA Gen, desde su diseño y entrenamiento hasta su despliegue y monitorización. La gobernanza de la IA Gen implica esta- blecer y mantener un marco de control, procesos y prácticas para garantizar el uso responsable, ético y eficiente de los modelos de IA Gen. Además, es funda- mental asegurar la transparencia y ex- plicabilidad de los modelos, así como la trazabilidad de las decisiones tomadas por éstos, para fomentar la confianza y la rendición de cuentas. Otro desafío importante es la gestión del riesgo asociado con los modelos de IA Gen, lo que implica identificar, evaluar y mitigar posibles contingencias éticas, legales, operativas y de seguridad. Para ello, es necesario implementar meca- nismos de control y monitorización con- tinuos que permitan detectar y corregir desviaciones o comportamientos inapro- piados en los modelos. Igualmente, la gobernanza de la IA Gen requiere el establecimiento de una cultura organizacional que promueva la colaboración interdisciplinaria, la forma- ción continua y el compromiso con los valores y principios éticos en el desarrollo e implementación de modelos de IA Gen. Propiedad intelectual La IA Gen también plantea desafíos en cuanto a la propiedad intelectual y los derechos de autor. A medida que la IA Gen se utiliza para crear obras de arte, música y literatura, surge la pregunta sobre quién es el propietario de estas creaciones: la persona que entrenó el modelo, el usuario que proporcionó la entrada o el propio modelo de IA Gen. La legislación actual puede no reconocer los derechos de autor o patentes para Oportunidades, desafíos y límites éticos de la IA generativa J osé C arlos B aquero Director de la División de Inteligencia Artificial y Big Data de Secure e-Solutions de GMV