Chat GPT, culpable de nulidad: un juez usó IA para una sentencia y la Justicia anuló el fallo
Anularon por primera vez en Chubut una condena penal al descubrir que el juez de primera instancia había utilizado IA para escribir parte del fallo. Una frase en el documento fue la prueba
En Chubut, un tribunal se topó con una escena digna de serie judicial futurista: una sentencia penal redactada con ayuda de inteligencia artificial. La Cámara en lo Penal de la ciudad de Esquel anuló una condena de dos años y seis meses de prisión efectiva después de descubrir que el juez de primera instancia había dejado rastros de su colaborador digital en el texto.
La frase “aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar” apareció incrustada en la resolución, como una huella dactilar tecnológica que mandó al frente al letrado en el documento. El fallo pasó de ser “definitivo” a “defectuoso” en cuestión de párrafos, fue revisado por los jueces Hernán Dal Verme, Martín Zacchino y Carina Estefanía, quienes consideraron que el magistrado había delegado funciones propias de su cargo sin control humano.
El juez le pidió a la IA que hiciera parte del trabajo, pero se olvidó de revisar lo que entregó. La Cámara concluyó que el uso no supervisado de asistentes digitales vulnera garantías constitucionales básicas como el debido proceso y la motivación suficiente de las decisiones judiciales.
El juicio en el que el letrado se había expedido consiste en un robo simple en la ciudad. Un hombre es acusado de robar $400 y USD 400 en noviembre de 2023 y la sentencia condenatoria fue dictada el 4 de junio de este año. Pero la historia dio un giro de guion cuando la defensa detectó inconsistencias en la valoración de la prueba y, sin saberlo, destapó un experimento judicial fallido.
La jueza Carina Estefanía fue tajante: “No dejar constancia del uso de la herramienta impide controlar el grado de asistencia requerida y, con ello, la trazabilidad del razonamiento del magistrado”. Traducido al criollo: si no saben qué parte escribió el juez y cuál ChatGPT, no hay forma de saber de quién es la cabeza detrás del veredicto. Su colega, Martín Zacchino, coincidió en que el fallo tenía un “vicio insalvable de fundamentación”, porque el razonamiento judicial, literalmente, podría no haber sido humano. La Cámara ordenó un nuevo juicio ante otro magistrado y remitió el caso al Superior Tribunal de Justicia de Chubut.