Vivimos un momento incómodo para quienes trabajamos en ciberseguridad. Es sólo rock and roll pero nos gusta.
Durante años nos apoyamos en una premisa bastante tranquilizadora: si una amenaza era suficientemente sofisticada, iba a requerir actores muy especializados, mucho presupuesto y capacidades excepcionales. Eso nos daba margen para diseñar controles, procesos y barreras técnicas razonables. Hoy los deepfakes rompen definitivamente con esa idea.
Si tuvieramos que volver a facilitar algunos de los talleres que dimos con Candela Rabec entre agosto y septiembre del año pasado nos encontraríamos con actividades y contenidos completamente diferentes.
La inteligencia artificial confirma una tendencia, los ciberdelincuentes dejan de atacar sistemas y empiezan a atacar personas
Hoy, las tecnologías capaces de imitar voces, rostros, gestos y contextos ya no están reservadas a laboratorios, Estados o grandes organizaciones criminales. Están disponibles, son baratas, escalan rápido y mejoran semana a semana. Y lo más importante: no atacan sistemas, atacan personas. Su objetivo son nuestras decisiones.
Ese cambio no es menor. El verdadero riesgo de los deepfakes no está en la calidad del audio o del video, ni siquiera en si logramos detectarlos “automáticamente”. El riesgo está en cómo nuestro cerebro interpreta una historia que “parece real”, que activa urgencia, autoridad o miedo, y nos empuja a actuar antes de pensar. En ese punto, la discusión deja de ser tecnológica y pasa a ser cultural.
El primer objetivo de quién hace circular un Deepfake es activar un “secuestro de admigdala” en tu cerebro.
Detectar lo falso ya no alcanza
Durante mucho tiempo entrenamos a la gente para identificar señales técnicas: mirar el dominio del mail, detectar errores gramaticales, desconfiar de links raros. Ese enfoque empieza a quedar corto. Frente a una voz conocida pidiendo una transferencia urgente, o a un video aparentemente legítimo circulando por canales internos, la pregunta “¿esto es falso o real?” ya no alcanza. No porque sea irrelevante, sino porque llega tarde.
Cuando una persona se enfrenta a un estímulo que percibe como urgente, amenazante o altamente emocional, el cerebro puede entrar en lo que se conoce como “secuestro de la amígdala”. En ese estado, la amígdala (estructura clave en el procesamiento emocional) toma el control antes de que la corteza prefrontal pueda analizar la situación de manera racional. El resultado es una respuesta rápida, impulsiva y orientada a la acción, diseñada evolutivamente para sobrevivir, no para evaluar evidencias. Los deepfakes y las fake news explotan exactamente este mecanismo: presentan historias visuales o narrativas creíbles que activan miedo, autoridad, indignación u oportunidad, reduciendo drásticamente la capacidad de verificación crítica. En ese momento, el problema no es si el contenido es falso o verdadero, sino que la decisión ya fue condicionada emocionalmente, empujando a las personas a actuar, compartir o aprobar sin detenerse a pensar.
El cambio cultural que necesitamos va por otro lado. Implica enseñar a frenar, incluso cuando todo parece creíble. Implica legitimar la duda en entornos donde la velocidad suele ser un valor central. Implica correr el foco desde el objeto (el audio, el video, el mensaje) hacia la intención. ¿Por qué existe esto? ¿Qué historia me está contando? ¿Qué emoción intenta activar? ¿Quién gana si yo actúo sin verificar?
Nuevo desafío de ciberseguridad para startups, banca y Oil & Gas.
Este enfoque es particularmente crítico en contextos como startups, donde la agilidad y la confianza son parte del ADN; en bancos y aseguradoras, donde una decisión humana puede tener impacto financiero inmediato; y en industrias como Oil & Gas, donde una orden falsa puede traducirse en riesgos operativos reales (más aún en contextos geopolíticos mas “ásperos” que en otras épocas para Occidente). En todos los casos, el eslabón común no es la tecnología, sino el comportamiento.
Hablar de deepfakes desde la cultura no significa resignarse ni caer en el “no se puede hacer nada”. Todo lo contrario. Significa aceptar que no vamos a ganar esta batalla prometiendo certezas absolutas, sino diseñando hábitos. Hábitos de pausa, de verificación por canales alternativos, de conversación interna. Hábitos que no dependan de héroes individuales, sino de una cultura compartida.
La seguridad, en este escenario, deja de ser una lista de controles y pasa a ser una capacidad colectiva. Una forma de mirar, interpretar y decidir en un entorno donde lo sintético se vuelve indistinguible de lo real. Las organizaciones que entiendan esto a tiempo no solo van a reducir incidentes. Van a construir equipos más conscientes, más resilientes y mejor preparados para un mundo donde la confianza ya no se puede dar por sentada, pero sí se puede diseñar.