El Chat GPT no es un buen defensor
En otro hecho que pone en tela de juicio el uso de herramientas de inteligencia artificial en los juzgados, la Cámara Civil de Roca, en Río Negro, dejó sin efecto las presentaciones de un grupo de abogados que hacían referencia a fallos generados con IA y que no pudieron ser verificados.
En su fallo, los jueces emitieron un mensaje claro sobre el uso de este tipo de tecnologías en el ámbito legal: la inteligencia artificial puede ser un recurso útil, pero no puede ni debe ser usada a la ligera reemplazando al criterio y la supervisión humana.
Durante la revisión de un expediente por una demanda contra una automotriz y su concesionaria, los jueces identificaron un total de 26 citas de jurisprudencia que no figuraban en los registros oficiales del Poder Judicial de Río Negro ni en las bases del Superior Tribunal de Justicia. La mayoría de estas referencias estaban incluidas en los escritos del denunciante.
Frente a esta situación, el tribunal decidió apartar a los abogados de la etapa en curso, dejó sin efecto sus intervenciones y resolvió que no se les paguen honorarios por su labor. Además, remitieron los antecedentes al tribunal de ética del Colegio de Abogados para su evaluación.
La hipótesis de los magistrados es que los letrados utilizaron inteligencia artificial para elaborar los escritos, sin verificar adecuadamente la información proporcionada por estas herramientas.
En su resolución, la Cámara fue contundente: aunque los sistemas basados en IA pueden asistir en la elaboración de documentos, sus resultados deben ser cuidadosamente revisados. «La utilización de chatbots no exime al profesional del deber de control. Estas herramientas pueden generar contenido inexacto o ficticio», sostuvieron
La situación pone una vez más en relieve la necesidad de discutir cómo incorporar la IA a la práctica jurídica sin comprometer la ética profesional. El fallo deja en claro que la tecnología no puede reemplazar el análisis crítico ni la responsabilidad que exige el ejercicio de la abogacía.