Trend Micro advirtió sobre el papel transformador de la IA generativa en el panorama de las amenazas cibernéticas y el inminente tsunami de sofisticadas tácticas de ingeniería social y herramientas GenAI impulsadas por el robo de identidad.
Eric Skinner, vicepresidente de estrategia de mercado de Trend Micro declaró: “Los modelos avanzados de lenguajes extensos (LLMs), competentes en cualquier idioma, representan una amenaza significativa ya que eliminan los indicadores tradicionales de phishing, lo que los hace extremadamente difíciles de detectar. Las empresas deben hacer una transición más allá de la capacitación convencional en phishing y priorizar la adopción de controles de seguridad modernos”.
Se espera que la disponibilidad generalizada y la calidad mejorada de la IA generativa, asociada al uso de Generative Adversarial Networks (GANs), alteren el mercado del phishing en 2024. Esta transformación permitirá la creación rentable de contenido de audio y vídeo hiperrealista, por lo que Trend predice una nueva ola de ataques de correo electrónico empresarial (BEC), secuestro virtual y otras estafas.
Dadas las ganancias potencialmente lucrativas que los actores de amenazas podrían lograr a través de actividades maliciosas, dichos ciberdelincuentes se verán incentivados a desarrollar herramientas GenAI nefastas para estas campañas o a utilizar herramientas legítimas con credenciales robadas y VPNs para ocultar sus identidades.
Los propios modelos de IA también pueden ser atacados en 2024. Si bien es difícil para los actores de amenazas influir en los datasets GenAI y LLM, los modelos especializados de aprendizaje automático basados en la nube, son un objetivo mucho más atractivo.
“En el próximo año, la industria cibernética comenzará a superar al gobierno en lo que respecta al desarrollo de políticas o regulaciones de IA específicas para la ciberseguridad. La industria se está moviendo rápidamente hacia la autorregulación voluntaria”, señaló Greg Young, vicepresidente de ciberseguridad de Trend Micro.
Fuente: Trend Micro
