Brasil integrará la tecnología de ChatGPT en su sistema judicial. ¿Qué puede salir mal?

Ya ha pasado alrededor de un año y medio desde que ChatGPT empezara a protagonizar titulares y a atraer usuarios. Desde el principio (de hecho fue nuestra primera publicación al respecto) siempre hemos valorado todo lo positivo de la herramienta, pero recordando que no es, ni mucho menos, una herramienta infalible. En ese artículo poníamos el foco en los tres tipos de problemas fundamentales y, en este especial, profundizamos en el mayor de ellos, las alucinaciones.

Con el tiempo (relativamente corto, en realidad) hemos visto una más que destacable evolución que hace que ChatGPT resulte más fiable, algo que ha subido muchos enteros con el lanzamiento de GPT-4o y, de su mano, la llegada del modo online a las cuentas gratuitas. Estas mejoras son sustanciales, eso es indiscutible, pero esto no nos debe hacer pensar que ahora sí que es una herramienta 100% fiable. Los fallos, los sesgos, la falta de fuentes y las alucinaciones siguen estando ahí.

Si llevamos esto al contexto concreto del mundo judicial, nos encontramos con la cara y la cruz de la moneda. La cara la vimos a principios del año pasado, cuando un juzgado colombiano fue pionero en el uso de ChatGPT en la investigación asociada a un proceso judicial. La cruz, por su parte, nos llegó desde Estados Unidos, donde un abogado empleó inintencionadamente información falsa generada por el chatbot. Un error que le costó tener que dar muchas explicaciones e incluso poner en juego su carrera profesional.

Es por esto, por estos precedentes, que esta noticia me parece interesante y preocupante al mismo tiempo. Y es que, según publica la Agencia Reuters, Brasil va a integrar la tecnología subyacente de ChatGPT en su sistema judicial. Lo hará, eso sí, con una implementación a medida e independiente de la responsable de prestar el servicio de chatbot de uso general. Algo lógico, claro, pues podemos imaginar el enorme volumen de información con algún tipo de protección que pasará por esta implementación.

El objetivo de esta implementación es, según sus responsables, agilizar los procesos judiciales en el país carioca, un objetivo que sin duda es siempre deseable. Además, se plantea que toda la información generada será posteriormente supervisada y que esta medida no se traducirá en una reducción de empleados en el sistema judicial. No obstante, y aunque sobre el papel parece algo positivo, a nadie se le escapa que determinadas combinaciones, como alucinación más fallo humano, pueden dar lugar a situaciones potencialmente peligrosas. Y, dado que hablamos del sistema judicial, con lo que esto entraña, cabe empezar a cruzar los dedos desde ya mismo para que nada salga mal.