Un juez de Washington rechaza un vídeo mejorado por inteligencia artificial debido a modificaciones imprecisas de la imagen en un caso de triple asesinato

El juez del Tribunal Superior Leroy McCullogh ha rechazado el uso de un vídeo mejorado con inteligencia artificial presentado como prueba durante un caso de triple asesinato en el condado de King, Washington. El uso de este tipo de vídeos para enjuiciar un caso penal plantea dos problemas fundamentales. En primer lugar, la mejora de imágenes mediante IA crea y elimina detalles del original. En segundo lugar, no existe ningún método que demuestre que las modificaciones de la IA dan como resultado un vídeo que representa con exactitud la escena real.

La tecnología de la IA ha avanzado rápidamente hasta el punto de que puede utilizarse para arreglar fotos dañadas y mejorar fotos de mala calidad. La IA es capaz de hacerlo generando detalles a partir del entrenamiento a través de millones de imágenes existentes. Sencillamente, cuando la IA ve una sección que parece un campo de hierba en una imagen de mala calidad, toma las imágenes más probables de campos de hierba que ha visto antes e intenta parchear en un reemplazo de mayor calidad. Es importante destacar que la IA generativa no sabe lo que es real, por lo que los vídeos mejorados pueden contener detalles que no existen en la vida real o incluso estar desprovistos de detalles críticos.

La IA generativa utiliza la entrada de millones de imágenes combinadas con algoritmos para crear un conjunto masivo de números que representan esas imágenes. La IA no conserva las imágenes originales, por lo que la forma exacta en que la IA mejora una imagen con los detalles que ha visto utiliza "métodos opacos para representar lo que la IA 'cree' que debe mostrarse", según el juez McCullogh.

Los lectores que estén pensando en convertirse en abogados deberían dedicar un momento a leer cómo funciona la IA generativa para evitar cometer errores como presentar expedientes basados en casos falsos.