Un hacker aficionado utilizó chatbots de IA para dejar vulnerables a al menos 14 empresas mediante simples solicitudes. Según el informe de OALABS, el hacker utilizó herramientas como Claude Code de Anthropic y Codex de OpenAI para detectar vulnerabilidades y escribir código de ataque. El hacker obtuvo acceso a un servidor para llevar a cabo el ataque y utilizó las herramientas de IA para acceder a los datos de las empresas objetivo.
Mientras las herramientas de IA cumplían con las solicitudes del hacker, algunas medidas de seguridad se activaron. Sin embargo, el hacker logró sortearlas apareciendo como si estuviera realizando un ejercicio de equipo rojo autorizado. Las herramientas de IA identificaron los servicios en las máquinas objetivo, investigaron las vulnerabilidades conocidas y escribieron código de ataque. Después del ataque, el hacker ordenó a las empresas objetivo para exigir un rescate y las herramientas de IA ofrecieron sugerencias sobre cómo llevar a cabo esas demandas.
El ataque del hacker no tuvo éxito y no se realizó ningún pago de rescate. Sin embargo, este incidente demostró la capacidad de las herramientas de IA para detectar vulnerabilidades y escribir código de ataque. OALABS recomendó que se apliquen de manera más estricta las medidas de seguridad de las herramientas de IA para protegerse contra este tipo de ataques.