Este artículo busca proporcionar una visión general sobre cómo la inteligencia artificial (IA) está siendo integrada en la sociedad en general y en las empresas en particular, sobre los desafíos que plantea y sobre las estrategias que se están implementando para asegurar su uso responsable y efectivo.
No en vano, a medida que avanzamos, es imperativo que todos los actores implicados (desde desarrolladores y empresarios hasta legisladores y el público en general) participen activamente en la conversación sobre el futuro de esta tecnología.
Grupo de trabajo de IA
Es el caso de la asociación de profesionales de ciberseguridad y protección de datos, ISMS Forum, que creó en el segundo semestre de 2023 el Grupo de Inteligencia Artificial (GIA). Un área que ya ha publicado un amplio conjunto de guías, documentos y recursos.
En relación con estos últimos, cabe destacar los chats conversacionales sobre esta materia, construidos en dos versiones (ChatGPT y Microsoft Copilot), alimentados con las guías de la asociación, y que permiten dar respuesta a consultas sobre seguridad, ética y cumplimiento en dicha materia. Se puede acceder a todas las guías y recursos de forma gratuita desde la página web de la asociación.
Adicionalmente, ISMS Forum coordina el mayor canal Telegram existente en castellano, formado por más de 500 profesionales activos, donde solo se habla de seguridad, ética y cumplimiento de la IA.
Estos trabajos se están realizando con una amplia visión, pues el espectro de perfiles del cuantioso número de profesionales que están participando en el GIA (con cinco iniciativas vivas en este momento) es también amplio.
La IA, si bien tiene sus orígenes a finales de los años cincuenta del siglo pasado, ha dado el salto a la cotidianeidad de los medios de comunicación en los últimos tres años. En ese tiempo es cuando, además, ha dejado de ser una mera fantasía de ciencia ficción para la sociedad en general y ha pasado a convertirse en una fuerza transformadora en casi todos los aspectos de la sociedad moderna, y donde las altas expectativas y los enormes temores sobre sus riesgos se debaten y analizan. Desde mejorar la eficiencia operativa hasta revolucionar la manera en que interactuamos con la tecnología, la IA está redefiniendo los límites de lo posible.
Sin embargo, con grandes poderes vienen grandes responsabilidades, y su adopción trae consigo desafíos únicos en términos de seguridad, ética y cumplimiento normativo.
Introducción a la inteligencia artificial y su impacto en la sociedad
La IA, en sus múltiples formas (desde algoritmos de aprendizaje automático hasta sistemas autónomos avanzados), está integrándose en sectores tan variados como la salud, la automoción, la educación y más allá. Su capacidad para procesar y analizar grandes volúmenes de datos más rápido que los humanos la convierte en una herramienta invaluable.
No obstante, esta capacidad también plantea preguntas sobre la privacidad de los datos, la toma de decisiones autónoma (las superinteligencias) y la seguridad de los sistemas de IA, así como su utilización como sistemas adversarios; es decir, donde la IA es utilizada para causar daños a sociedades, empresas y ciudadanos.
La implementación efectiva de la IA requiere una adopción cuidadosa y una gobernanza robusta
Adopción y gobernanza de la IA
La implementación efectiva de la IA requiere una adopción cuidadosa y una gobernanza robusta. Organizaciones de todos los tamaños están adoptando estrategias para incorporar tecnologías de IA, pero esto debe estar acompañado por un marco de gobernanza sólido que asegure su uso ético y responsable. Eso incluye establecer roles claros para su supervisión, implementar políticas de transparencia y rendición de cuentas y asegurar que todos los sistemas de IA sean auditables y sus operaciones comprensibles para los usuarios finales.
Adicionalmente, tanto durante las fases de entrenamiento como de acceso continuo a los datos que traten el modelo, como las salidas de la IA, se deben contemplar la calidad del dato y el control y supervisión de los mismos.
Las organizaciones deben identificar y desarrollar, como parte de esa estrategia de adopción, tratando aspectos como el cuerpo regulatorio, la identificación y asunción de responsabilidades e incluso la forma de identificar, evaluar y abordar las diferentes iniciativas (¿a través de un comité de inteligencia artificial?). Además, las evaluaciones de riesgos de unos y otros tipos, los controles y la supervisión deben ser los cimientos de la adopción y crecimiento de la IA empresarial.
Aspectos legales y regulatorios
A medida que la IA se convierte en una parte integral de más aplicaciones comerciales y productos y, sobre todo, conforme la sociedad y no solo los procesos internos de las empresas se ven afectadas, las implicaciones legales y regulatorias se vuelven más complejas. Las leyes de protección de datos, los derechos de propiedad intelectual y las regulaciones específicas del sector están evolucionando para abordar los nuevos desafíos que presenta la tecnología.
Los desarrollos recientes en la legislación de la Unión Europea y otras regiones destacan, en este sentido, la necesidad de un enfoque proactivo para gestionar los riesgos legales asociados con la IA.
Ética y cumplimiento
Además de los desafíos legales, la ética en el uso de la IA es un campo de creciente importancia. Los principios de justicia, transparencia y responsabilidad deben ser integrados en todas las fases del desarrollo y despliegue de la IA. Las organizaciones han de esforzarse por diseñar sistemas de IA que no solo sean eficientes, sino también justos y libres de prejuicios, garantizando que los beneficios de la IA se distribuyan equitativamente en toda la sociedad.
En el fondo, la IA analizará y sustentará decisiones que hasta el momento se regían por una ética humana. Por tanto, el nuevo tratamiento no debe ser oscuro y las reglas de evaluación y decisión tienen que ser trazables y responder a la debida ética empresarial en sus relaciones con clientes, socios y empleados, en particular, y con sociedad en general.
¡Sigue leyendo!
Aquí te hemos mostrado tan solo una parte de este artículo.
¿Quieres leer el contenido completo?
