Anthropic ha descubierto que algunos científicos pedían ayuda a Claude para investigar sobre armas biológicas

Anthropic, la empresa creadora de Claude AI, ha señalado y bloqueado recientemente a varios científicos que intentaban utilizar sus modelos de IA para el posible desarrollo de armas biológicas. Un nuevo informe sobre amenazas publicado por la empresa detalla un uso indebido generalizado de su plataforma de IA Claude. La investigación destaca cinco casos concretos en los que científicos en activo investigaban patógenos altamente peligrosos. Detectar este tipo de uso indebido sigue siendo muy complejo, ya que la investigación biomédica legítima a menudo se asemeja mucho al desarrollo de un arma biológica.

En un caso destacado ocurrido en mayo, el clasificador interno de seguridad biológica de Anthropic interceptó una solicitud para redactar una propuesta de subvención destinada a la investigación de «ganancia de función» sobre el virus del chikungunya. Este patógeno transmitido por mosquitos provoca síntomas debilitantes y, en la actualidad, no cuenta con ningún tratamiento autorizado. La investigación propuesta tenía por objeto aumentar la transmisibilidad del virus y su capacidad para eludir las respuestas inmunitarias.

La vinculación de esta investigación con un instituto militar agravó de inmediato las preocupaciones de la empresa. Anthropic también detuvo otro intento relacionado con la investigación de ganancia de función sobre la gripe aviar, que se centraba en adaptar el patógeno para que se propagara más fácilmente entre mamíferos. Otra consulta interceptada se refería a un investigador que utilizaba Claude para cartografiar péptidos de toxinas de veneno y optimizar sus características.

Anthropic respondió bloqueando de forma permanente las cuentas asociadas a estas actividades. La empresa utilizó los hallazgos para reforzar sus medidas de seguridad contra futuros usos indebidos. El informe destaca que los modelos más recientes demuestran una competencia cada vez mayor en el manejo de tareas científicas sofisticadas.

Esta capacidad los convierte en objetivos muy atractivos para quienes buscan un auténtico asistente de investigación en el ámbito de la ingeniería biológica compleja. Anthropic optó por mantener en el anonimato las identidades y las instituciones de los científicos implicados. La empresa declaró que identificar a estos profesionales en activo podría exponerlos a daños físicos, señalando que es posible que los investigadores no tuvieran la intención explícita de causar daño.