El uso de IA en la justicia: un escándalo en Chile y la situación en Argentina
Mientras en la justicia argentina empezaron a aparecer advertencias a abogados por el mal uso de la Inteligencia Artificial en sus escritos, al otro lado de la cordillera, en Chile, estalló un escándalo que expuso los riesgos de la utilización de este tipo de herramientas sin control.
El hecho se dio en la Corte de Apelaciones de Santiago, donde la Novena Sala debió rectificar de urgencia una resolución judicial tras quedar al descubierto un insólito error: el documento oficial publicado incluía, textual y sin borrar, el prompt, es decir la instrucción que se le da a la IA.
El texto filtrado instruía al software a asumir el rol de un juez y redactar considerandos jurídicos, mezclando además instrucciones correspondientes a un recurso de amparo ajeno al litigio principal.
Aunque la presidenta de la sala, Jenny Book, aclaró que el fallo fue decidido íntegramente por los jueces y que se trató de un error de transcripción, el daño institucional ya estaba hecho.
Esto deja expuestas dos grandes fallas. Primero, que un texto redactado por una máquina pasó el filtro de los jueces y fue firmado sin que nadie advirtiera la diferencia. Y segundo, y tal vez lo más cuestionable, que una vez más se usó a la IA no como correctora de estilo, sino como redactora de la fundamentación jurídica de un fallo.
En Argentina por ahora reina un vacío legal al respecto. Hubo llamados de atención y apercibimientos a abogados que presentaron escritos con «alucinaciones» de la IA, es decir, citas falsas, fallos inexistentes o normas derogadas que la herramienta inventó con total verosimilitud. En este sentido, los jueces subrayan que la responsabilidad profesional e intelectual del escrito recae de manera exclusiva y excluyente en el abogado firmante, tipificando el uso imprudente como una falta a la buena fe procesal y a la lealtad que se debe al tribunal.
Pero cabe destacar que por ahora no existe una ley sancionada por el Congreso que prohíba, encuadre o regule el uso de algoritmos, IA o sistemas automatizados ni para los jueces ni para los abogados.