NO BASTA HUMAN IN THE LOOP EN EL SECTOR LEGAL

El itinerario intelectual y las condiciones del juicio humano en la era algorítmica

Cada vez es más común que un abogado consulte un sistema de inteligencia artificial antes de construir un argumento o que un juez lo utilice antes de redactar una sentencia. Aun así, en ambos casos seguimos diciendo que fue el abogado quien argumentó y el juez quien decidió.

Esa atribución tiene sentido mientras la IA sea utilizada para facilitar operaciones que no comprometen el juicio de quien la utiliza. El problema aparece cuando deja de asistir en tareas periféricas y empieza a intervenir precisamente en aquellas mediante las cuales se construye el juicio que luego atribuimos a la persona.

Por ejemplo:

Un abogado debe elaborar un dictamen. Consulta un modelo de inteligencia artificial que identifica jurisprudencia, doctrina, derecho comparado y propone un resultado. El abogado comprueba algunas referencias, modifica ciertos pasajes y adopta la conclusión.

En teoría, el sistema asistió y el profesional decidió.

Pero ahora supongamos que ese abogado no habría podido identificar por sí mismo la controversia y que desconoce nociones elementales de la materia sobre la cual versa su dictamen. Aun así, tendríamos una respuesta sintácticamente coherente y también un abogado que la suscribe.

En ambos casos hay una persona dentro del proceso. En ambos podemos afirmar que existe human in the loop. Pero ¿es suficiente?

¿Cuándo esa presencia humana representa realmente el ejercicio de un juicio humano?

La pregunta importa porque diversas respuestas regulatorias frente a la inteligencia artificial descansan precisamente en la preservación de alguna forma de supervisión humana. El problema es que esa solución termina suponiendo aquello que debería demostrar: que mantener a una persona dentro del proceso permite conservar las condiciones que justifican atribuirle el juicio y la responsabilidad por la decisión.

No siempre es así.

La presencia humana puede ser necesaria y, sin embargo, resultar insuficiente. Para comprender por qué, debemos observar no solo quién adopta formalmente una decisión, sino qué operaciones intelectuales permanecieron realmente bajo su dominio durante el proceso que condujo hasta ella.

No todas las operaciones que delegamos tienen el mismo valor

Es cierto que las tecnologías intelectuales siempre han permitido delegar operaciones. Las calculadoras, por ejemplo, automatizaron operaciones matemáticas y los motores de búsqueda redujeron radicalmente el tiempo necesario para localizar información.

La pregunta relevante no es entonces cuánto trabajo puede ahorrarnos la inteligencia artificial, sino qué clase de trabajo estamos dejando de hacer.

Porque no todas las operaciones que delegamos cumplen la misma función intelectual.

Buscar durante media hora una sentencia y comprender por qué el criterio de esa jurisprudencia resulta aplicable a nuestra pretensión forman parte de una misma investigación, pero difícilmente poseen el mismo valor. El tiempo utilizado para localizar una fuente puede desaparecer casi por completo sin que con ello desaparezca una capacidad intelectual que interese preservar. En cambio, deliberar entre dos criterios incompatibles de una misma Sala hasta determinar cuál debe ser adoptado es una operación estrechamente relacionada con aquello que reconocemos como criterio jurídico.

Por eso no resulta suficiente distinguir entre utilizar y no utilizar inteligencia artificial.

La diferencia relevante aparece en la relación que se establece entre la tecnología, las operaciones delegadas y la capacidad humana que esas operaciones contribuían a ejercer.

Es precisamente allí donde la presencia humana deja de ser suficiente.

El límite del human in the loop en el sector legal

El justiciable no espera del abogado o del juez únicamente una respuesta correcta. Espera que puedan identificar el problema, valorar las razones relevantes, confrontar interpretaciones posibles y justificar finalmente la posición que adoptan.

Un juez no cumple su función por el solo hecho de firmar una sentencia correcta, del mismo modo que la responsabilidad profesional de un abogado no puede reducirse a suscribir un dictamen jurídicamente plausible. En ambos casos, la atribución de la decisión presupone una capacidad para comprenderla, cuestionarla y responder por las razones que la sostienen.

Esto explica por qué el human in the loop, aunque necesario en determinados contextos, no resuelve por sí solo el problema. Mantener a una persona dentro del proceso puede preservar formalmente la autoría de una decisión sin preservar necesariamente el juicio que justifica atribuírsela.

Autoría:
Álvaro Herrera Morales