La Suprema Corte le pone límites a la IA en la Justicia
La Suprema Corte de Justicia de la provincia de Buenos Aires aprobó un proyecto de reglamento para regular el uso de la Inteligencia Artificial en los tribunales bonaerenses. Y la resolución fue tajante: ningún sistema automatizado podrá dictar sentencias, valorar pruebas ni sustituir el razonamiento de los jueces.
Bajo la premisa de que «la función jurisdiccional es indelegable e insustituible», el máximo tribunal provincial busca poner un freno al uso indiscriminado de los chats inteligentes en la justicia.
La medida responde a una realidad ineludible: la IA se convirtió en una herramienta de uso cotidiano por parte de abogados, secretarios y funcionarios para agilizar tareas.
Sin embargo, advirtieron que el uso de la IA genera resultados inexactos o directamente falsos, que no tiene verificación. Por otro lado, existe una vulneración de datos sensibles al introducir información de causas judiciales en plataformas comerciales abiertas.
Para garantizar la transparencia, la resolución determina la creación de la «Comisión de Gobernanza y Uso de Inteligencia Artificial», un órgano integrado por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales. Esta comisión funcionará como la autoridad de aplicación y tendrá el poder de auditar herramientas, diseñar protocolos obligatorios, coordinar pruebas piloto y emitir informes técnicos periódicos.
A pesar de las restricciones, la Corte aclaró que no se busca bloquear la modernización de los tribunales. Dado que el Poder Judicial bonaerense ya opera casi en su totalidad en una «fase digital», el objetivo es encauzar una incorporación de tecnologías que sea «gradual, responsable y estratégica», sirviendo como apoyo administrativo, pero dejando la última palabra siempre en manos humanas.