Apple y Microsoft se unen a Anthropic en un nuevo proyecto de seguridad de IA de 100 millones de dólares

El Proyecto Glasswing de Anthropic https://www.anthropic.com/glasswing es una nueva iniciativa de ciberseguridad, destinada a identificar y corregir vulnerabilidades en la infraestructura global de software. El programa incluye a grandes actores como Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidiay el Linux Foundation. Estos socios utilizarán un nuevo modelo de frontera para escanear y endurecer los sistemas de origen y de código abierto.

El proyecto se basa en Claude Mythos Preview, un modelo especializado que, según Anthropic, ha alcanzado un nivel de capacidad de codificación que puede superar a la mayoría de los humanos a la hora de encontrar exploits de software. En las pruebas preliminares, Anthropic afirma que el modelo descubrió de forma autónoma miles de vulnerabilidades de alta gravedad en los principales sistemas operativos y navegadores web. Entre ellas, un fallo de hace 27 años en OpenBSD y una vulnerabilidad de hace 16 años en FFmpeg que habían sobrevivido a millones de pruebas automatizadas anteriores.

Anthropic está comprometiendo 100 millones de dólares en créditos de uso de modelos para los participantes en el proyecto. La empresa también va a donar 4 millones de dólares a organizaciones de código abierto, concretamente 2,5 millones a Alpha-Omega y OpenSSF y 1,5 millones a la Apache Software Foundation. Sin embargo, la empresa no tiene previsto poner Claude Mythos Preview a disposición del público en general. En su lugar, el modelo será accesible a organizaciones examinadas a través de la API de Claude, Amazon Bedrock, Vertex AI de Google Cloud y Microsoft Foundry. El uso para estos participantes tendrá un precio de 25 dólares por millón de tokens de entrada y 125 dólares por millón de tokens de salida.

Se espera que el proyecto Glasswing funcione durante varios meses - Anthropic también ha prometido un informe público en un plazo de 90 días. El informe detallará las vulnerabilidades descubiertas, junto con una lista de recomendaciones prácticas para mejorar las prácticas de seguridad, como la aplicación automatizada de parches y la mejora de la seguridad de la cadena de suministro. Anthropic declaró que también ha mantenido conversaciones con funcionarios del gobierno estadounidense sobre las capacidades ofensivas y defensivas del modelo.