Por qué no creo en jueces IA

Voy a hablar de los límites actuales que tiene la IA para aplicar el Derecho a día de hoy, cuáles son los obstáculos que las tecnologías de este tipo tienen que superar para que puedan aplicar el Derecho de manera similar a los juristas. Para ello me centraré en los dos sistemas más importantes desarrollados a este respecto: el sistema de justicia predictiva y el de minería de argumentos.

A este primero se le proporciona unos hechos probados, el sistema selecciona propiedades del caso como el posible delito, el perfil del acusado, el tribunal que debe juzgar, etc. Posteriormente, el sistema detecta patrones comunes a estas propiedades en casos anteriores; dicha información se procesa en un sistema de redes neuronales y finalmente da el resultado que considere más probable. Su efectividad es alta, con un acierto de entre el 80 y el 85%, como han mostrado varios estudios. Sin embargo, su utilidad como elemento decisorio parece complicada

Podemos resumir sus dificultades en estas cuatro:

1. El sistema predice, no toma una decisión jurídica. Siguiendo la crítica al realismo jurídico, el juez debe aplicar el Derecho no predecir resultados, se debe guiar bajo criterios normativos, no simplemente fácticos.
2. Estas tecnologías toman “decisiones” siempre conforme a datos anteriores, no sabiendo cuando el tribunal va a inaplicar una jurisprudencia previamente asentada o cuando la misma debe cambiar para abandonar líneas doctrinales anticuadas.
3. Estos sistemas no evalúan los casos de manera individualizada; los cálculos se realizan conforme a grandes grupos de datos pasados, no hay análisis casuístico, lo que viola el derecho a una sentencia individualizada
4. La justicia predictiva procesa la información a través de la interacción de muchos nodos, llegándose a dar miles de interacciones. Así, es indescifrable conocer la relevancia de las razones que llevaron al sistema a predecir un determinado resultado, ni siquiera realizándose la extracción del código fuente del algoritmo debido a la extrema complejidad de los procesamientos. Así, el perjudicado por la sentencia no va a poder recurrir pues no conoce las razones de la misma, vulnerando su derecho de defensa.

Aun con todo ello, la justicia predictiva puede tener operatividad en el mundo jurídico, sobre todo en áreas como la abogacía o la actividad del Ministerio Público, como ocurre en Argentina.

Otra tecnología, que puede suplir la falta de motivación que los sistemas de justicia predictiva poseen son los consistentes en la minería de argumentos. Su funcionamiento es el siguiente: se diseña un esquema de anotación, se usan a profesionales de áreas concretas del Derecho para que seleccionen una cantidad amplia de precedentes importantes, sobre los que deben anotar conforme al esquema previamente mencionado, eliminando partes de las sentencias que no sean de interés y señalando argumentos, así como los componentes de los mismos. Una vez hecho esto, los profesionales ejecutan tareas de argumentación jurídica tras el planteamiento de diversos casos, señalando argumentos aplicables de sentencias de la base de datos. El procesador, usando una tecnología de aprendizaje profundo, aprende de las anotaciones manuales y poco a poco va mejorando en el ejercicio de esta tarea. Así se originó ROSS, un sistema capaz de hacer incluso dictámenes con una argumentación jurídica aceptable. Sin embargo, la minería de argumento sigue poseyendo defectos que hacen inaplicable su uso en sede judicial:

1. Tienen problemas a la hora de evaluar detalles de los casos que tengan relevancia jurídica, pues no poseen estados mentales con experiencia subjetiva que puedan valorarlos. Aquí se pone de manifiesto la necesidad de encontrar modelos de IA que tengan la capacidad de comprensión semántica del lenguaje de la manera que Searle expresó en su momento.
2. Se equivocan en la detección de componentes argumentales en el ejercicio de anotación a la hora de seleccionar ciertas frases como premisas cuando eran conclusiones y vice versa. De la misma manera, tienen serios problemas a la hora de procesar argumentaciones jurídicas complejas, lo que impide un correcto aprendizaje de las mismas.
3. Son sistemas rígidos basados en reglas formales, lo que impide la flexibilidad de sus razonamientos y ello, sumado a la falta de comprensión profunda de los supuestos, dificulta que se puedan tratar de manera distinta casos que formalmente se solucionaban de una manera pero que poseen algunas diferencias que los hacen materialmente diferentes. Además, esto dificulta la realización de argumentos creativos y otras tareas como la detección y resolución de antinomias y lagunas.

Así, el propio CEO de ROSS ha llegado a admitir públicamente las limitaciones del programa afirmando que por el momento “crear argumentos jurídicos o preparar documentos siguen siendo [tareas] exclusivas de los juristas humanos”. Sin embargo, nada impide que estos sistemas se usen para poder resolver casos rutinarios y de escasa cuantía. Esto sobre todo sería interesante para España en donde hay tantos casos pendientes, muchos de ellos poco importantes y que generan una carga de trabajo que impide que el juez pueda tomar casos verdaderamente graves con la dedicación que merecen.