Los deepfakes no explotan brechas tecnológicas. Explotan la obediencia.

Resumen:
La narrativa del sector sobre los ataques de deepfake se centra en lo convincente que se ha vuelto la tecnología. Ese enfoque no da en el clavo. Los deepfakes tienen éxito porque activan los mismos patrones de comportamiento que las organizaciones llevan años reforzando: obedecer a la autoridad, actuar con urgencia y no cuestionar a los líderes. La verdadera vulnerabilidad no es el contenido sintético, sino una cultura de cumplimiento que nunca enseñó a las personas a hacer una pausa, verificar y pensar de forma crítica bajo presión. Hasta que los líderes de seguridad no aborden esto, ninguna herramienta de detección cerrará la brecha.

‍

En marzo de 2025, un director financiero de una empresa multinacional en Singapur se unió a lo que parecía una videollamada rutinaria. El director financiero (CFO) estaba en pantalla. Otros ejecutivos aparecían junto a él. La solicitud era clara: autorizar una transferencia de 499 000 dólares para una adquisición confidencial. El director financiero cumplió. Cada rostro en esa llamada fue generado por IA. Cada voz era sintética. Toda la reunión fue fabricada utilizando imágenes disponibles públicamente de los ejecutivos reales. (Fuente: Brightside AI, octubre de 2025)

La respuesta del sector ante incidentes como este tiende a seguir un patrón predecible. Los analistas señalan la sofisticación del deepfake. Los proveedores anuncian nuevas funciones de detección. Los proveedores de formación añaden un módulo sobre contenido sintético. Y la suposición subyacente permanece incuestionable: que estos ataques tienen éxito porque la tecnología es tan avanzada que las personas no pueden distinguir lo real de lo falso.

Esa suposición es errónea. O, en el mejor de los casos, incompleta.

La pregunta más profunda no es por qué las personas no pueden detectar los deepfakes. Es por qué ni siquiera lo intentan.

La brecha de confianza de la que nadie quiere hablar

El informe de amenazas de otoño de 2025 de IRONSCALES reveló una contradicción sorprendente. Al ser encuestados, el 99 % de los líderes de seguridad dijeron confiar en las defensas contra deepfakes de su organización. En ejercicios de detección simulados, solo el 8,4 % de las organizaciones obtuvo una puntuación superior al 80 %. La puntuación media fue del 44 %. (Fuente: IRONSCALES, informe de amenazas de otoño de 2025)

Lea eso de nuevo. Confianza casi universal. Capacidad por debajo de la media.

Esto no es un problema tecnológico. Es un problema de percepción, y es más profundo de lo que la mayoría de las organizaciones creen.

Más de la mitad de las organizaciones encuestadas informaron pérdidas financieras relacionadas con fraudes de deepfake o de voz por IA en el último año, con una pérdida media superior a los 280 000 dólares por incidente. Casi el 20 % informó pérdidas de 500 000 dólares o más. (Fuente: IRONSCALES, informe de amenazas de otoño de 2025)

Mientras tanto, un meta-análisis de 2024 que sintetizó 56 estudios revisados por pares con más de 86 000 participantes descubrió que la precisión humana para identificar deepfakes es de aproximadamente el 55 %, estadísticamente indistinguible de lanzar una moneda al aire. El estudio "Blindspot" de 2025 de iProov fue más allá: solo el 0,1 % de los participantes identificó correctamente todas las muestras de deepfake que se les mostraron. (Fuentes: Diel et al., meta-análisis de 2024; estudio Deepfake Blindspot de iProov, 2025)

Así que, cuando un sector dice "confiamos", pero los datos dicen "estamos adivinando", la pregunta es: ¿de dónde viene esa falsa confianza?

Creemos que proviene de confundir la concienciación con la capacidad. Y esa confusión es la brecha más peligrosa en la seguridad actual.

Los entrenó para obedecer. Los atacantes se dieron cuenta.

Aquí está el argumento que la mayoría de los artículos sobre deepfakes evitan: la misma cultura corporativa que exige una ejecución rápida y un cumplimiento incuestionable de los líderes es la cultura que los ataques de deepfake están diseñados para explotar.

Considere lo que tienen en común todos los fraudes de deepfake exitosos. No es la calidad del contenido sintético, sino el patrón de comportamiento que activa.

Autoridad. Una solicitud de alguien percibido como parte de la alta dirección.

Urgencia. Un plazo ajustado que desalienta la reflexión.

Confidencialidad. Un enfoque que disuade al objetivo de consultar con otros.

No se trata de vulnerabilidades técnicas, sino culturales. Y en la mayoría de las organizaciones, estos patrones no son errores, sino características. Se recompensa a los empleados por su capacidad de respuesta, se les penaliza por los retrasos y se les socializa para que eviten cuestionar a sus superiores, especialmente en momentos de alta presión.

El incidente de Arup en 2024 lo ilustra a la perfección. El empleado que transfirió 25 millones de dólares estaba en una videollamada con quienes parecían ser el director financiero y varios colegas, todos ellos suplantados mediante *deepfakes* creados a partir de imágenes de conferencias disponibles públicamente. Los atacantes crearon un ambiente confidencial con un plazo estricto. El empleado no se detuvo, no verificó a través de un canal independiente ni hizo ninguna pregunta que solo el verdadero director financiero pudiera conocer. Hizo lo que la organización le había enseñado a hacer: seguir las instrucciones de la dirección, rápidamente y sin fricciones. (Fuentes: CNN, febrero de 2024; informe de la policía de Hong Kong)

El Informe de Investigaciones de Filtraciones de Datos de Verizon de 2025 confirma este patrón a gran escala: aproximadamente el 60% de todas las filtraciones confirmadas implicaron una acción humana, ya fuera un clic, una llamada de ingeniería social o el envío erróneo de datos confidenciales. Además, los propios investigadores del informe señalaron que las tasas de fracaso ante el *phishing* no parecían verse afectadas por la formación tradicional. (Fuente: Verizon, 2025 DBIR)

Los datos cuentan una historia clara. La concienciación por sí sola no cambia el comportamiento bajo presión. La formación orientada al cumplimiento enseña a las personas qué deben saber, pero no les enseña cómo actuar cuando la confianza se utiliza como arma en tiempo real.

Idea clave: la detección es un callejón sin salida. La verificación es la habilidad que ofrece protección.

El instinto del sector ha sido responder a los *deepfakes* mediante la detección: herramientas que analizan artefactos de audio, señalan inconsistencias en el vídeo o evalúan el contenido en busca de signos de generación sintética. La lógica parece sólida: si los *deepfakes* son convincentes, hay que crear tecnología que los desenmascare.

Sin embargo, los datos de campo son aleccionadores. Una investigación de CSIRO reveló que las principales herramientas de detección caían por debajo del 50% de precisión cuando se enfrentaban a *deepfakes* producidos por herramientas con las que no habían sido entrenadas. Las plataformas de detección comerciales que demuestran una precisión del 96% en condiciones de laboratorio caen a un rango de entre el 50% y el 65% en implementaciones reales. (Fuente: Brightside AI, octubre de 2025, citando una investigación de CSIRO)

Las herramientas de detección mejorarán, pero también lo hará la IA generativa. Se trata de una carrera armamentística sin un equilibrio estable, y el defensor se encuentra en una desventaja estructural porque los atacantes solo necesitan tener éxito una vez.

El enfoque más duradero consiste en dejar de intentar enseñar a la gente a detectar falsificaciones y empezar a construir el reflejo organizativo de verificar todo lo que importa, independientemente de lo real que parezca o suene.

Esto es lo que demostró el incidente de Ferrari en julio de 2024. Cuando un ejecutivo recibió mensajes de WhatsApp y luego una llamada de voz de alguien que se hacía pasar por el director ejecutivo, Benedetto Vigna —con su acento del sur de Italia incluido—, el ejecutivo no intentó analizar si la voz era sintética. Hizo una pregunta que solo el verdadero Vigna podría responder: el título de un libro que había recomendado días antes. El suplantador colgó inmediatamente. (Fuente: Bloomberg, julio de 2024; Fortune, julio de 2024)

Eso no fue un éxito de detección, sino un éxito de verificación. El ejecutivo había sido condicionado —por la cultura, por el proceso o por instinto— a tratar la confianza como algo que debe ganarse en el momento, no como algo que se asume basándose en las apariencias.

La diferencia entre Arup y Ferrari no fue la calidad del *deepfake*, sino el comportamiento de la persona que lo recibió. Uno siguió el guion; el otro lo rompió.

La trampa del cumplimiento: por qué el 88% de los programas de formación siguen sin funcionar

Según el informe de IRONSCALES de 2025, el 88% de las organizaciones ofrecen actualmente algún tipo de formación relacionada con los *deepfakes*. Y, sin embargo, las tasas de detección siguen siendo desalentadoras. (Fuente: IRONSCALES, Informe de Amenazas de otoño de 2025)

Esto no debería sorprender a nadie que haya asistido a un programa típico de concienciación sobre seguridad. La mayoría están diseñados para el cumplimiento, no para la resiliencia. Miden las tasas de finalización, no el cambio de comportamiento. Informan a los empleados sobre qué son los *deepfakes*, quizás muestran algunos ejemplos y terminan con un cuestionario. Luego, la organización marca una casilla y sigue adelante.

El informe *State of the Phish 2024* de Proofpoint reveló que el 68% de los empleados infringe conscientemente la política de seguridad a pesar de haber recibido formación. (Fuente: Proofpoint, *State of the Phish Report 2024*) Ese hallazgo por sí solo debería poner fin al debate sobre si la concienciación equivale a capacidad. La gente conoce las reglas, pero las infringe de todos modos, porque las presiones del mundo real —la urgencia, la autoridad y la prueba social— se imponen sobre lo que aprendieron en un módulo de 20 minutos hace tres meses.

El problema empeora si se tiene en cuenta cuántos programas abordan las dinámicas específicas que explotan los *deepfakes*. Menos del 20% de los programas de formación cubren el *vishing* (phishing de voz) o los *deepfakes*. Solo el 7,5% personaliza la formación según los niveles de riesgo individuales, a pesar de las pruebas de que aproximadamente el 8% de los empleados causan el 80% de los incidentes. Y alrededor del 30% de los empleados describen su formación actual como aburrida e ineficaz. (Fuente: Brightside AI, Estadísticas de Formación en Concienciación de Seguridad 2025)

Este no es un problema de volumen. Las organizaciones no necesitan más horas de formación. Necesitan un modelo fundamentalmente diferente: uno que pase de informar a las personas sobre los riesgos a desarrollar su capacidad para responder a ellos bajo presión, en condiciones realistas y a través de los canales que realmente utilizan los atacantes.

Cómo es una capa humana defendible

Si los ataques de deepfake explotan patrones de comportamiento —autoridad, urgencia, confianza—, la defensa debe operar también a nivel conductual. No como un añadido posterior a un programa de cumplimiento, sino como una capacidad operativa central que los líderes de seguridad puedan medir, rastrear y mejorar con el tiempo.

Consideramos que esto requiere tres cambios:

De la cultura de detección a la de verificación. En lugar de entrenar a los empleados para detectar artefactos sintéticos (una batalla perdida a gran escala), las organizaciones deben integrar la verificación en cada flujo de trabajo sensible. Autorización de múltiples personas para transacciones financieras. Confirmación fuera de banda para cualquier solicitud que involucre dinero, acceso o datos, independientemente de quién parezca estar solicitándolo. Una norma cultural que establezca que cuestionar una solicitud de un alto directivo no es insubordinación, sino competencia.

De la concienciación anual a la competencia conductual continua. Un único evento de formación, por muy bien diseñado que esté, pierde su efecto en pocas semanas. Los empleados que completan la formación en enero se enfrentan a amenazas todos los demás días del año. Lo que funciona es la exposición continua a escenarios realistas —a través de correo electrónico, voz y vídeo— que se adapten al rol, al perfil de riesgo y a los patrones de comportamiento de cada persona. Esto es lo que convierte la concienciación en memoria muscular.

De las métricas de cumplimiento a la inteligencia conductual. Las tasas de finalización te dicen quién asistió a un programa, pero no quién se detendría antes de autorizar una transferencia bancaria un viernes por la tarde cuando alguien que parece el director financiero lo solicita. Las métricas que importan son conductuales: qué tan rápido reportan las personas las interacciones sospechosas, cómo responden bajo presión simulada y dónde se agrupan las brechas según el rol, el departamento o el tipo de escenario. Esta es la inteligencia que permite a los líderes de seguridad tomar decisiones, asignar recursos y demostrar un progreso medible ante la junta directiva.

En Zepo Intelligence, esto es lo que construimos. Nuestra plataforma ejecuta simulaciones multivectoriales hiperpersonalizadas a través de los canales que realmente usan los atacantes; no para asustar a las personas, sino para desarrollar el tipo de capacidad conductual duradera que resiste cuando la presión es real. Medimos cómo se desempeñan las personas frente al riesgo, no cuántas diapositivas hicieron clic.

Conclusión

Las pérdidas por fraude mediante deepfakes superaron los 200 millones de dólares solo en el primer trimestre de 2025. (Fuente: Wall Street Journal / The D&O Diary, agosto de 2025). Las cifras seguirán creciendo. La tecnología seguirá mejorando.

Las organizaciones que tomen la delantera no serán las que tengan el mejor detector de deepfakes. Serán aquellas donde un director financiero se sienta lo suficientemente seguro como para decir: "Lo siento, necesito verificar su identidad", y donde esa respuesta sea tratada como un activo de seguridad, no como un riesgo profesional.

El comportamiento humano no es el problema. Es la clave de la solución. Pero solo si dejas de entrenar a las personas para cumplir y empiezas a desarrollar su capacidad para pensar.

‍