Ciberataques con IA: Los LLM pueden planificar y ejecutar operaciones cibernéticas de forma autónoma

Un estudio dirigido por Brian Singer, candidato a doctor en ingeniería eléctrica e informática en Universidad Carnegie Mellonha revelado que los LLM pueden simular violaciones de la red notablemente similares a los ataques del mundo real cuando están equipados con capacidades de planificación de alto nivel y marcos de agentes especializados.

En el estudio, los LLM consiguieron infiltrarse en redes empresariales, identificar vulnerabilidades y llevar a cabo ataques de varios pasos sin intervención humana. Esta investigación demuestra que los modelos avanzados de IA son capaces no sólo de realizar tareas básicas, sino también de tomar decisiones de forma autónoma y adaptarse a entornos de red dinámicos.

Esto presenta tanto riesgos significativos como oportunidades potenciales para la ciberseguridad. Por un lado, los actores maliciosos pueden explotar estas tecnologías para automatizar y escalar sus ataques. Por otro, las empresas y los investigadores de seguridad podrían aprovechar las LLM para desarrollar y probar medidas de ciberseguridad, por ejemplo simulando ataques para identificar vulnerabilidades de forma proactiva.

Las conclusiones del estudio se detallan en el sitio web de investigación de Anthropic; una preimpresión del trabajo también está disponible en arXiv. Estas publicaciones ofrecen información valiosa sobre la metodología y las implicaciones de esta investigación pionera y desafiante sobre los ciberataques con IA.