El término deepfake alude al uso de la Inteligencia Artificial para generar imitaciones altamente realistas en formato imagen, video o audio. A través del uso de aprendizaje automático avanzado (ML), esta tecnología puntera imita o clona con precisión a personas reales, desafiando nuestra capacidad para diferenciar entre el contenido digital genuino y el manipulado. Hoy día el deepfake es una herramienta que sirve para llevar la estafa digital a niveles insospechados.
Cuando la IA clonó una videoconferencia en la estafa deepfake mayor de la historia
Hace casi un año desde que —el 4 de febrero de 2024— tuvo lugar la estafa deepfake más cara de la historia: una videoconferencia falsa sirvió de anzuelo para robar 24 millones de euros. Durante una videollamada empresarial con ejecutivos y directivos de compañías del mundo entero, los empleados de la prestigiosa de empresa británica de ingeniería Arup sufrieron una refinadísima ciberestafa.
Sin que los asistentes lo supieran, los ciberdelincuentes estaban infiltrados en la reunión donde participaban numerosas personas. Todos los directivos eran falsos. Varios miembros del propio equipo también estaban clonados. El director financiero solo estaba presente de nombre, ya que su imagen y voz estaban simuladas con IA. La voz era una réplica tan perfecta que hacía descartar la idea de que aquello fuera una estafa de ingeniería social. Este elaborado fraude con tecnología deepfake fue tan convincente que un empleado del departamento financiero de la sucursal de Arup en Hong Kong dio el montaje por bueno. Tan convencido estaba que transfirió 24 millones de euros en una serie de transacciones a cuentas aportadas por los estafadores.
Lamentablemente, el deepfake ha llegado para quedarse. A medida que los fraudes se vuelven cada vez más sofisticados en su aprovechamiento de esta tecnología disruptiva, es fundamental que los organismos públicos y el sector empresarial trabajen juntos para proteger la actividad económica y la seguridad de la información. El incidente de Arup, si bien no es un evento aislado, sirve como un potente recordatorio de las elevadísimas pérdidas económicas que puede generar esta tecnología en las manos equivocadas.
Cómo abordar la presencia del deepfake en nuestra vida cotidiana
Para distinguirlos debemos acostumbrarnos a buscar detalles reveladores en el rostro, ya que la Inteligencia Artificial no reproduce bien determinados elementos del cuerpo humano. Fallos típicos de la IA son: parpadeos poco naturales, sombras inconsistentes, expresiones faciales rígidas, bordes del pelo difusos y dientes extraños. La sincronización de la voz con los labios a veces no coincide. Revisa si la iluminación en el fondo y la cara es uniforme. Por supuesto es aconsejable usar herramientas tecnológicas y verificar el origen del contenido: si la fuente es poco fiable, puede tratarse de un deepfake.
Archivado en:
