{"id":12707,"date":"2026-08-31T06:27:00","date_gmt":"2026-08-31T06:27:00","guid":{"rendered":"https:\/\/gonzaloluis.com.ar\/?p=12707"},"modified":"2026-08-12T19:22:47","modified_gmt":"2026-08-12T19:22:47","slug":"ia-confiar-o-no-confiar-esa-es-la-pregunta","status":"publish","type":"post","link":"https:\/\/gonzaloluis.com.ar\/?p=12707","title":{"rendered":"IA: Confiar o no confiar. Esa es la pregunta"},"content":{"rendered":"

\u00bfY si la verdadera amenaza de la IA no es el modelo\u2026 sino la confianza ciega con la que lo usamos?<\/strong><\/p>\n

La inteligencia artificial generativa no lleg\u00f3 a los entornos laborales para reemplazar a nadie. Pero s\u00ed est\u00e1 reemplazando algo<\/strong>: la necesidad de pensar, dudar y validar. Nos seduce con velocidad, estilo y fluidez. \u00bfEl problema? Confundimos estas skills con precisi\u00f3n, \u00e9tica y contexto. \u00bfC\u00f3mo podemos hacer para que la IA no nos gobierne? El tema fue abordado hasta en una enc\u00edclica papal (y en este webinar que compartimos con Paula Geosits<\/a>)<\/p>\n

Y en medio de todo, nuestros programas de concientizaci\u00f3n en ciberseguridad siguen atascados en lo de siempre: phishing, contrase\u00f1as<\/a> y backups cuando podr\u00edan aprovechar las ventajas de los eventos disruptivos<\/a> o capacitaciones l\u00fadicas.<\/a><\/p>\n

La paradoja del exceso de confianza<\/h3>\n

No hace falta entender c\u00f3mo funciona un LLM para pedirle ayuda. Esa es su magia. Y tambi\u00e9n su riesgo. Porque si el usuario no tiene herramientas para distinguir entre una respuesta elegante y una peligrosa<\/strong>, lo que sigue no es error: es exposici\u00f3n de informaci\u00f3n.<\/p>\n

Estamos viendo c\u00f3mo los errores se automatizan con estilo. Y lo peor: los equipos lo celebran como eficiencia. Tenemos que trabajar sobre nuevos h\u00e1bitos antes que sean verdaderas acequ\u00edas de informaci\u00f3n sensible compartida con asistentes de IA. <\/strong><\/p>\n

Cambiar el comportamiento no es convencer, es dise\u00f1ar<\/h3>\n

Cuando se quiere cambiar un comportamiento, no alcanza con repetir o multiplicar reglas. El cambio ocurre cuando tres cosas confluyen: la persona quiere hacerlo, puede hacerlo, y algo se lo recuerda o facilita en el momento justo. Motivaci\u00f3n, capacidad y disparador. Sin esa combinaci\u00f3n, no hay h\u00e1bito, ni conciencia, ni ciberseguridad.<\/p>\n

Eso significa que la concientizaci\u00f3n no empieza con una charla, sino con una elecci\u00f3n diaria<\/strong>: c\u00f3mo redact\u00e1s tus prompts, qu\u00e9 verific\u00e1s antes de compartir, qu\u00e9 preguntas dej\u00e1s pasar por falta de tiempo o incomodidad. Y ese marco se puede integrar sin esl\u00f3ganes, sin slides<\/strong> y sin repetir lo obvio. Solo hay que empezar por redise\u00f1ar las experiencias de trabajo para que la seguridad no sea una carga\u2026 sino algo que fluya junto al trabajo.<\/p>\n

\u00bfCambi\u00e1s la cultura, concietiz\u00e1s, capacit\u00e1s o confirm\u00e1s sesgos?<\/h3>\n

Muchos programas de awareness se basan en repetir protocolos y prohibiciones. Pero cuando llega la IA, esas estrategias fallan. \u00bfPor qu\u00e9? Porque no apelan a la duda. Y la ciberseguridad no nace del control: nace del pensamiento cr\u00edtico.<\/strong><\/p>\n

Si tu enfoque actual est\u00e1 confirmando sesgos (\u201cmejor no preguntar\u201d, \u201cesto parece estar bien escrito\u201d, etc.), est\u00e1s entrenando a tus equipos en la direcci\u00f3n cultural equivocada.<\/p>\n

La ignorancia sobre c\u00f3mo funciona la IA es MUY rentable (para el atacante)<\/h3>\n

No entender qu\u00e9 es un prompt, c\u00f3mo se entrena un modelo, o de d\u00f3nde sale la respuesta, es exactamente lo que permite:<\/p>\n