AI identifica erróneamente una bolsa de Doritos como un arma - la policía apunta a un estudiante de 17 años

El instituto Kenwood de Maryland utiliza un sistema de seguridad impulsado por inteligencia artificial llamado Omnilert, que aprovecha las cámaras de vigilancia existentes para buscar continuamente posibles armas. Pero el sistema no siempre acierta. La noche del 20 de octubre, marcó por error una bolsa de Doritos -un aperitivo muy popular en Estados Unidos- como un arma de fuego.

Las patatas pertenecían a Taki Allen, un estudiante de 17 años que estaba esperando a que le llevaran después del entrenamiento de fútbol alrededor de las 7 de la tarde cuando de repente sonaron las sirenas de la policía y se detuvieron ocho coches patrulla. Los agentes saltaron y le apuntaron con sus armas. "Pensé que iba a morir... me apuntaban con pistolas " , dijo Allen a la CNN. Le obligaron a arrodillarse, le esposaron y le registraron, sólo para que los agentes no encontraran nada más que una bolsa vacía de patatas fritas en el suelo.

Según la directora Kate Smith, la alerta de IA ya había sido cancelada antes de que llegara la policía. Sin embargo, la actualización no fue comunicada a tiempo, dijo un portavoz del distrito escolar a WBAL-TV 11. La superintendente Myriam Rogers llamó el incidente "desafortunado" y anunció una revisión completa. Se proporcionará apoyo psicológico a los estudiantes involucrados.

Pide reforma después de falsa alarma

Tras el incidente, el abuelo de Allen, Lamont Davis, pidió responsabilidades y reformas en el uso de la vigilancia con IA. El suceso también suscitó un intenso debate en las redes sociales. En Redditlos usuarios expresaron fuertes críticas a la policía, a los responsables de la escuela y a la tecnología implicada. Muchos argumentaron que el verdadero problema no era la IA en sí, sino la forma en que la gente respondió tras la alerta. "Error humano, no fallo de la IA", rezaba uno de los comentarios más destacados.

Un sistema diseñado para detectar armas a tiempo tiene sentido, sobre todo en Estados Unidos, donde los tiroteos en las escuelas siguen siendo una grave preocupación. Pero es crucial asegurarse de que estas herramientas no se conviertan ellas mismas en un riesgo. Eso significa minimizar las falsas alarmas y mantener una comunicación clara entre el personal de seguridad y las fuerzas del orden.