El ascenso de la IA: impactos y estrategias en la era digital

Este artículo busca proporcionar una vi­sión general sobre cómo la inteligencia artificial (IA) está siendo integrada en la sociedad en general y en las empresas en particular, sobre los desafíos que plantea y sobre las estrategias que se están implementando para asegurar su uso responsable y efectivo.

No en vano, a medida que avanza­mos, es imperativo que todos los acto­res implicados (desde desarrolladores y empresarios hasta legisladores y el pú­blico en general) participen activamen­te en la conversación sobre el futuro de esta tecnología.

Grupo de trabajo de IA

Es el caso de la asociación de profe­sionales de ciberseguridad y protec­ción de datos, ISMS Forum, que creó en el segundo semestre de 2023 el Grupo de Inteligencia Artificial (GIA). Un área que ya ha publicado un am­plio conjunto de guías, documentos y recursos.

En relación con estos últimos, cabe destacar los chats conversacionales sobre esta materia, construidos en dos versiones (ChatGPT y Microsoft Copilot), alimentados con las guías de la asocia­ción, y que permiten dar respuesta a consultas sobre seguridad, ética y cum­plimiento en dicha materia. Se puede acceder a todas las guías y recursos de forma gratuita desde la página web de la asociación.

Adicionalmente, ISMS Forum coordi­na el mayor canal Telegram existente en castellano, formado por más de 500 profesionales activos, donde solo se ha­bla de seguridad, ética y cumplimiento de la IA.

Estos trabajos se están realizando con una amplia visión, pues el espectro de perfiles del cuantioso número de profe­sionales que están participando en el GIA (con cinco iniciativas vivas en este momento) es también amplio.

La IA, si bien tiene sus orígenes a fi­nales de los años cincuenta del siglo pasado, ha dado el salto a la cotidianei­dad de los medios de comunicación en los últimos tres años. En ese tiempo es cuando, además, ha dejado de ser una mera fantasía de ciencia ficción para la sociedad en general y ha pasado a con­vertirse en una fuerza transformadora en casi todos los aspectos de la sociedad moderna, y donde las altas expectativas y los enormes temores sobre sus riesgos se debaten y analizan. Desde mejorar la eficiencia operativa hasta revolucionar la manera en que interactuamos con la tecnología, la IA está redefiniendo los límites de lo posible.

Sin embargo, con grandes poderes vienen grandes responsabilidades, y su adopción trae consigo desafíos únicos en términos de seguridad, ética y cum­plimiento normativo.

Introducción a la inteligencia artificial y su impacto en la sociedad

La IA, en sus múltiples formas (desde algoritmos de aprendizaje automático hasta sistemas autónomos avanzados), está integrándose en sectores tan va­riados como la salud, la automoción, la educación y más allá. Su capacidad para procesar y analizar grandes volú­menes de datos más rápido que los hu­manos la convierte en una herramienta invaluable.

No obstante, esta capacidad también plantea preguntas sobre la privacidad de los datos, la toma de decisiones autónoma (las superinteligencias) y la seguridad de los sistemas de IA, así como su utilización como sistemas ad­versarios; es decir, donde la IA es utili­zada para causar daños a sociedades, empresas y ciudadanos.

La implementación efectiva de la IA requiere una adopción cuidadosa y una gobernanza robusta

Adopción y gobernanza de la IA

La implementación efectiva de la IA re­quiere una adopción cuidadosa y una gobernanza robusta. Organizaciones de todos los tamaños están adoptando estrategias para incorporar tecnologías de IA, pero esto debe estar acompaña­do por un marco de gobernanza sólido que asegure su uso ético y responsable. Eso incluye establecer roles claros para su supervisión, implementar políticas de transparencia y rendición de cuentas y asegurar que todos los sistemas de IA sean auditables y sus operaciones com­prensibles para los usuarios finales.

Adicionalmente, tanto durante las fa­ses de entrenamiento como de acceso continuo a los datos que traten el mode­lo, como las salidas de la IA, se deben contemplar la calidad del dato y el con­trol y supervisión de los mismos.

Las organizaciones deben identificar y desarrollar, como parte de esa estra­tegia de adopción, tratando aspectos como el cuerpo regulatorio, la identifi­cación y asunción de responsabilidades e incluso la forma de identificar, evaluar y abordar las diferentes iniciativas (¿a través de un comité de inteligencia artifi­cial?). Además, las evaluaciones de ries­gos de unos y otros tipos, los controles y la supervisión deben ser los cimientos de la adopción y crecimiento de la IA empresarial.

Aspectos legales y regulatorios

A medida que la IA se convierte en una parte integral de más aplicaciones co­merciales y productos y, sobre todo, conforme la sociedad y no solo los pro­cesos internos de las empresas se ven afectadas, las implicaciones legales y regulatorias se vuelven más complejas. Las leyes de protección de datos, los de­rechos de propiedad intelectual y las re­gulaciones específicas del sector están evolucionando para abordar los nuevos desafíos que presenta la tecnología.

Los desarrollos recientes en la legis­lación de la Unión Europea y otras re­giones destacan, en este sentido, la ne­cesidad de un enfoque proactivo para gestionar los riesgos legales asociados con la IA.

Ética y cumplimiento

Además de los desafíos legales, la éti­ca en el uso de la IA es un campo de creciente importancia. Los principios de justicia, transparencia y responsabilidad deben ser integrados en todas las fases del desarrollo y despliegue de la IA. Las organizaciones han de esforzarse por diseñar sistemas de IA que no solo sean eficientes, sino también justos y libres de prejuicios, garantizando que los be­neficios de la IA se distribuyan equitati­vamente en toda la sociedad.

En el fondo, la IA analizará y sustenta­rá decisiones que hasta el momento se regían por una ética humana. Por tanto, el nuevo tratamiento no debe ser oscu­ro y las reglas de evaluación y decisión tienen que ser trazables y responder a la debida ética empresarial en sus relacio­nes con clientes, socios y empleados, en particular, y con sociedad en general.