Stacey Wales, conteniendo las lágrimas, se aferró al atril mientras pedía al juez que le diera al hombre que disparó y mató a su hermano la máxima pena posible por homicidio involuntario.

Lo que apareció a continuación sorprendió a los presentes en el tribunal de Phoenix la semana pasada: un video generado por IA con la imagen de su hermano, Christopher Pelkey, le decía al tirador que estaba perdonado.

El juez dijo que le encantaba y apreciaba el video, y luego condenó al tirador a 10.5 años de prisión, la pena máxima y más de la que solicitaba la fiscalía. A pocas horas de la audiencia del 1 de mayo, el abogado del acusado presentó una apelación.

El abogado defensor Jason Lamm no se encargará de la apelación, pero afirmó que probablemente se solicitará a un tribunal superior que decida si el juez se basó indebidamente en el video generado por IA al sentenciar a su cliente.

Los tribunales de todo el país han estado lidiando con la mejor manera de gestionar la creciente presencia de la inteligencia artificial en los tribunales. Incluso antes de que la familia de Pelkey ​​utilizara la IA para darle voz en la sección sobre el impacto en las víctimas —lo que se cree es una novedad en los tribunales estadounidenses—, la Corte Suprema de Arizona creó un comité que investiga las mejores prácticas de IA.

En Florida, un juez se puso recientemente un visor de realidad virtual para mostrar el punto de vista de un acusado que afirmó haber actuado en defensa propia al blandir un arma cargada contra los invitados a una boda. El juez rechazó su alegación.

Y en Nueva York, un hombre sin abogado utilizó un avatar generado por IA para argumentar su caso en una demanda por vídeo. Los jueces tardaron solo unos segundos en darse cuenta de que el hombre que se dirigía a ellos desde la pantalla de vídeo no era real.

Los expertos afirman que el uso de la IA en los tribunales plantea problemas legales y éticos, especialmente si se utiliza eficazmente para influir en un juez o un jurado. Y argumentan que podría tener un impacto desproporcionado en las comunidades marginadas que enfrentan un proceso judicial.

“Me imagino que será una forma de evidencia controvertida, en parte porque podría ser algo que beneficie a los partidos que tienen más recursos sobre los que no los tienen”, dijo David Evan Harris, experto en falsificaciones profundas de IA en la escuela de negocios de UC Berkeley.