POR: DR. PHD. JAVIER FLORES AROCUTIPA
La Dra. Gema Marcilla Córdova, docente de la Universidad Castilla-La Mancha, además de investigadora sobre Derecho y Justicia de la Universidad Carlos III de Madrid, fue invitada por el Tribunal Constitucional del Perú para disertar sobre la relación entre Derecho e Inteligencia Artificial (IA). Aquí sus principales conclusiones:
Ella sostiene que el derecho es lenguaje, y la IA generativa, especialmente los grandes modelos de lenguaje (LLMs), se basa en procesar lenguaje. Por tanto, su vínculo con el derecho es inevitable. Y por eso, lo que debe entenderse es que transforma radicalmente sus herramientas. Ella prefiere definir la IA como la ciencia e ingeniería de construir máquinas inteligentes capaces de ejecutar tareas humanas, como traducir, razonar o argumentar.
Sostiene, además, que en España hay tres posiciones filosóficas sobre la IA. Están los escépticos, quienes sostienen que la IA no podrá replicar la inteligencia humana (por falta de conciencia, emociones, juicio moral). Están los funcionalistas, quienes aceptan que los procesos mentales la IA podrá emular; sostienen, incluso, que puede reproducir emociones.
Y están los que sostienen que se debe abandonar la comparación IA-humano. Ellos dicen que la IA amplifica la inteligencia humana sin pretender igualarla. Por eso, se señala que hay dos tipos de IA: lineal vs. neuronal. La IA lineal (tradicional) sigue instrucciones, como un programa. Por ejemplo, los sistemas expertos legales de los años 80. Y la IA neuronal (moderna): aprende de datos sin programación explícita. Es la base de la IA generativa.
Es verdad que estos modelos no entienden, pero simulan operaciones racionales. Aprenden regularidades sintácticas, semánticas y contextuales. Y aquí se puede decir que, en derecho, pueden ser entrenados con legislación, jurisprudencia, doctrinas, etc.
Ya muchos hoy los utilizan para interpretar textos jurídicos, sugerir argumentos, redactar resoluciones o analizar sentencias; transcribir declaraciones, revisar testificales, organizar expedientes judiciales; detectar contradicciones, patrones o incoherencias en grandes volúmenes de información.
¿Entonces cuál es el rol del derecho frente a la IA? Ella nos explica que hay dos enfoques: uno que sostiene que la IA se asume como objeto del derecho (regulación, protección de derechos, riesgos); y otro que sostiene que la IA es como instrumento del derecho (apoyo a jueces, fiscales, abogados).
Aunque para todo ello es preciso desarrollar la ética judicial. Esto resulta importantísimo, sobre todo basado en los criterios de la UNESCO, el Consejo de Europa y el hard law (Reglamento Europeo de IA). Y es vital que exista la «reserva de humanidad», donde la última decisión debe ser humana, no delegada a una máquina. Propone una implicación institucional intensa para guiar su desarrollo, formación obligatoria para jueces y creación de modelos con participación de juristas.
Al final, hizo una crítica a la hipocresía jurídica. Dijo: “Paradójicamente, cuando por fin la IA puede ofrecer objetividad (que siempre se le ha exigido al juez), el derecho reclama subjetividad humana”. Tamaña contradicción. Se deduce que no se puede ignorar ni rechazar la IA; debe usarse con precaución, con ética y con responsabilidad institucional.
Dice ella que “la IA no sustituye al juez, pero puede ser un ‘Ferrari’ si el juez sabe conducirla”. Para ello es necesaria la formación, el control humano, la colaboración interdisciplinaria y una visión amplia del derecho (no solo normativa, también argumentativa y social).
