Recientemente se detectó un ataque a múltiples dependencias del gobierno mexicano que se logró mediante la manipulación del chatbot Claude, desarrollado por Antropic y que fue usado como asistente para la intrusión.
Bloomberg señala que el hackeo se extendió durante aproximadamente un mes y permitió la exfiltración de 150 GB de datos sensibles, incluidos registros fiscales, padrones electorales, credenciales de empleados públicos y documentos de organismos estatales y municipales.
ESET explica el modus operandi de esta filtración y cómo el uso de la Inteligencia Artificial va en aumento en las campañas de delitos cibernéticos y al mismo tiempo, para fortalecer las defensas.
“Los modelos de IA pueden ser sensibles a ataques de usuarios malintencionados que, a través de la manipulación de comandos, pueden explotar vulnerabilidades para alterar su comportamiento y lograr instrucciones peligrosas. Cada vez es más frecuente que los ciberdelincuentes usen la IA para crear amenazas más sofisticados e impulsar sus campañas de ingeniería social”, explica David González, investigador de seguridad de ESET.
El atacante empleó una serie de prompts redactados en español para convencer al modelo de que actuara como un “hacker de élite”, aunque las intenciones maliciosas fueron detectadas y bloqueadas inicialmente por el chatbot, el cibercriminal logró realizar un jailbreak luego de varios intentos y eludió las barreras de seguridad de ese modelo de Inteligencia Artificial.
En el momento en que Claude tenía límites técnicos o se negaba a continuar, el intruso recurría a ChatGPT como apoyo adicional para refinar tácticas, ajustar técnicas de desplazamientos lateral y evaluar riesgos de detección, de acuerdo con el análisis de Gambit Security.
Entre el material robado se incluyen aproximadamente 195 millones de registros fiscales, información del padrón electoral, credenciales y datos de empleados públicos.
“La creciente digitalización en México exige una protección de datos más sólida. Ante la rápida evolución de las amenazas digitales, es urgente que todos los sectores actualicen y refuercen sus protocolos de seguridad informática”, comenta González.
Herramientas como Claude Code pueden convertir a un atacante sin experiencia en un operador capaz de actuar al ritmo y escala de un grupo criminal organizado. Al mismo tiempo, la IA también está fortaleciendo las defensas, permitiendo detectar ciberataques potenciados por modelos generativos.
Este es un momento crucial para que las organizaciones se preparen contra las amenazas, especialmente porque los humanos que usan herramientas de IA siguen siendo el mejor punto de entrada para los ataques.
Fuente: ESET Latinoamérica
