Google ofrece 12 millones de dólares para que los hackers hagan frente a los ataques de IA generativa

Google está ampliando su actual programa de recompensas por fallos para recompensar a los hackers e investigadores de seguridad que identifiquen posibles ataques en la IA generativa. El Programa de Recompensas por Vulnerabilidades (VRP, por sus siglas en inglés) establece unas directrices claras sobre los informes que cumplen los requisitos para recibir recompensas económicas. Si un problema reúne los requisitos para ser notificado, puede enviarlo a la página web Bug Hunter y recibir una recompensa si se considera válido.

El año pasado, Google pagó a los profesionales de la seguridad 12 millones de dólares por revelar fallos de seguridad. En agosto, la empresa se reunió con otros delegados de la industria e investigadores de seguridad en Defcon, el mayor evento público de IA generativa celebrado hasta la fecha, en la Casa Blanca para identificar posibles problemas.

Creemos que la ampliación del VRP incentivará la investigación en torno a la seguridad de la IA y sacará a la luz posibles problemas que, en última instancia, harán que la IA sea más segura para todos. También estamos ampliando nuestro trabajo de seguridad de código abierto para que la información sobre la seguridad de la cadena de suministro de la IA sea universalmente descubrible y verificable.

- Portavoz de Google

Hasta ahora, la empresa ha utilizado su propio "AI Red Team" para investigar las amenazas de la IA, descubrir fallos y desarrollar defensas del sistema.

Aprovechamos las tácticas, técnicas y procedimientos (TTP) de los atacantes para probar una serie de defensas del sistema.

- Daniel Fabian, responsable de Google Red Teams

Según la nueva normativa, los hackers externos pueden ahora simular ataques para identificar fallos en los sistemas y servicios de IA de Google, por ejemplo, pero deben trabajar dentro de un marco estricto. La ampliación del plan de incentivos precedió a la introducción de una nueva orden ejecutiva por parte del presidente Biden.

El 30 de octubre, Joe Biden promulgó la primera medida gubernamental obligatoria en materia de inteligencia artificial, por ejemplo. La orden ejecutiva exige una evaluación exhaustiva de los modelos de IA antes de su utilización por parte de las agencias gubernamentales.