Madrid
Emiratos Árabes Unidos ha anunciado su voluntad de convertir la Inteligencia Artificial (IA) en una suerte de co-legislador, capaz de redactar leyes igual o mejor que cualquier regulador en aquel país. Esa IA legislativa y judicial, apoyada en Big Data, monitoreará a diario el impacto de la nueva normativa en la ciudadanía y la economía. Entre otras funciones, la máquina alimentada por algoritmos también se permitirá el lujo de proponer enmiendas legislativas según vaya detectando nuevas necesidades.
El primer ministro de EAU, Mohammed bin Rashid Al Maktoum, lo defendía así: "El nuevo sistema legislativo basado en IA generará un cambio cualitativo en el ciclo legislativo, su velocidad y su precisión, garantizando nuestra excelencia legislativa nacional y asegurando que nuestras leyes se ajusten a las mejores prácticas y las más altas aspiraciones, en consonancia con la naturaleza única de nuestra experiencia de desarrollo acelerado". En definitiva, según lo anunciado, la IA asumirá un papel de co-legislador y sus impulsores confían que este enfoque agilice el proceso de elaboración y aplicación de normas en un 70%.
Si bien la IA se ha ido introduciendo en el campo judicial y administrativo, el anuncio de Emiratos Árabes Unidos ha sorprendido por atribuir a esta tecnología un papel tan activo en un asunto tan sensible. Para analizar esta tendencia, elEconomista.es ha recabado la opinión de magistrados, abogados y expertos en IA. Todos ellos coinciden en que no podemos dejar sola a la tecnología ni esperar que sustituya al poder legislativo.
Otras iniciativas en Europa y América Latina han empleado modelos como ChatGPT o sistemas propios para redactar normas, optimizar procesos judiciales o revisar regulaciones. Este fenómeno se extiende a una velocidad que obliga a la reflexión ética, jurídica y política. Como corroboran los magistrados, abogados y expertos en IA que han participado en este reportaje, es cierto que la IA ofrece un potencial transformador incuestionable. Como explican, esta tecnología puede analizar ingentes volúmenes de jurisprudencia en segundos, detectar contradicciones normativas, reducir la carga de trabajo de los tribunales y hasta proponer redacciones legislativas técnicamente precisas y neutras. En entornos con recursos limitados o donde los procesos legislativos y judiciales están congestionados, esta tecnología promete eficiencia, transparencia e incluso una mejor calidad normativa.
Los mismos expertos señalan que existen valores y consideraciones que están por encima en la garantía del correcto funcionamiento del Estado de Derecho. Así, el uso de IA en la elaboración de leyes o en la toma de decisiones judiciales también encierra riesgos profundos y complejos. El primero es el de la opacidad algorítmica. ¿Cómo garantizar que una ley sugerida por una IA ha sido construida sin sesgos, con respeto por los derechos fundamentales y con criterios democráticos? Si la caja negra del algoritmo llegara a sustituir al debate parlamentario, lo que ganásemos en rapidez podríamos perderlo en legitimidad. En este sentido, la trazabilidad de los modelos, el acceso al código fuente y la supervisión humana se vuelven innegociables.
En segundo lugar, está el riesgo del sesgo automatizado. Los sistemas de IA aprenden de datos, y esos datos –muchas veces históricos– reflejan nuestras imperfecciones sociales: discriminación, desigualdades, sesgos de género o clase. Corremos el riesgo de reproducir esas distorsiones.
En tercer lugar, incluso podría estar en riesgo la independencia judicial. Si un juez se apoya excesivamente en una IA para motivar sentencias o evaluar pruebas, podríamos entrar en un escenario en que las decisiones no emanen de la convicción judicial, sino de una recomendación técnica difícil de refutar. Por lo tanto, la IA puede asistir, pero nunca sustituir el juicio humano, que es donde reside la esencia de la justicia.
"La iniciativa (de EAU) es llamativa, pero debe observarse con cautela. La tecnología puede aportar eficiencia y análisis predictivo, pero un sistema legislativo inteligente implica riesgos si se utiliza para sustituir y no solo asistir al legislador humano", explica a eleconomista.es Diego Gutiérrez Alonso, magistrado y miembro del Secretariado de Juezas y Jueces para la Democracia. Nos recuerda que "la legislación es un proceso político y deliberativo, en el que intervienen principios, valores y equilibrios sociales que la IA no puede comprender ni valorar por sí sola". Menciona herramientas que ya apoyan la redacción legislativa –como los sistemas de análisis de impacto normativo basados en datos–, pero advierte, por si acaso: "En sistemas autoritarios o poco transparentes, estos desarrollos pueden además reforzar formas de control social incompatibles con una democracia plural".
En este debate, otro magistrado introduce una diferencia importante en los objetivos buscados. "La IA generativa es prometedora en multitud de ámbitos y permite que labores técnicas o repetitivas, que no exigen creatividad, empatía o, siquiera, inteligencia emocional, puedan realizarse de forma más o menos eficaz siendo muy eficiente". Así nos lo explica Alejandro González Mariscal de Gante, miembro del Comité Ejecutivo nacional de la Asociación Profesional de la Magistratura. "El problema es cuál es el fin que se persigue: la eficacia o la eficiencia. Si es la eficiencia, haremos más resoluciones con menos presupuesto y la IA será de gran ayuda. Si lo que queremos es resolver más y mejor, hacen falta personas, inteligencia emocional e incremento de partidas presupuestarias", nos explica.
También es importante conocer el punto de vista de un letrado. En este caso, recurrimos a Pablo García Mexía, director de derecho digital en la firma Herbert Smith Freehills: "Si de lo que se está hablando es de un sistema que prácticamente supla al legislador, como ser humano, sensible ante problemas sociales e impregnado de valores, es obvio que no me parece acertado. Si, en cambio, en lo que se piensa es en una herramienta que apoye en la elaboración de normas, no solo me parece acertado, sino absolutamente necesario y completamente acorde a los tiempos que vivimos". Añade que es una posibilidad totalmente factible y que, de hecho, se está llevando a cabo ya por muchos parlamentos del mundo e incluso empieza a utilizarse "con asiduidad en el propio parlamento español, y en las diversas comunidades autónomas".
Victoria Corral, CEO de Solver Intelligent Analytics, nos explica que el proyecto que se desarrolla en Emiratos Árabes Unidos es "particularmente ambicioso, ya que plantea que la IA pueda incluso proponer y redactar iniciativas legislativas de forma automatizada". Pero también manifiesta sus reticencias: "No solo es poco realista en la práctica, sino que además existen otros ámbitos donde la aplicación de IA sería más prioritaria y viable".
Varios ejemplos
Lo cierto es que, con muchas más limitaciones y para funciones específicas, la IA ya está interviniendo en diferentes procesos judiciales y legislativos. En Estados Unidos, el Departamento de Vivienda y Desarrollo Urbano (HUD) utiliza un sistema de IA para revisar y simplificar regulaciones actuales. En Brasil, ya se aprobó -no sin polémica- una ordenanza municipal en Porto Alegre redactada por ChatGPT.
El sistema Prometea en Buenos Aires se ocupa de la redacción de documentos judiciales. En el caso de España, el Ministerio de Justicia está impulsando un plan de transformación digital estructurado en tres grandes ejes: ámbito procesal, penal y de decisión judicial. También Solver IA participa en un proyecto para automatizar la gestión de inscripciones en el registro civil. Pero esas experiencias no han sido siempre igual de exitosas: en Reino Unido, se produjo un fallo en el sistema de divorcios con el cálculo automático de pensiones alimenticias que afectó a miles de casos durante más de un año y medio…
Entonces ¿qué elementos deberían tenerse en cuenta para que un sistema legislativo apoyado en la IA tenga éxito y resulte coherente? Responde en primer lugar el magistrado Gutiérrez Alonso: "Es imprescindible que garantice la transparencia de los algoritmos y su trazabilidad; el control humano en todas las fases del proceso; el respeto escrupuloso a los principios constitucionales y a los derechos fundamentales; la supervisión independiente de su uso, tanto técnica como jurídica; y la participación de expertos en derecho, filosofía política, sociología y ética, además de técnicos en IA". Para su colega González Mariscal de Gante, "fuera de contar con un acervo legislativo suficiente que integre unos antecedentes y contextualice la actividad parlamentaria, la solución se aleja de un parlamentarismo real o a lo que debería aspirar un sistema democrático". Y afirma tajante: "La IA no puede sustituir, al menos hasta el momento, el debate parlamentario en que debería consistir el proceso legislativo".
Esta misma pregunta lanzada al letrado del despacho global Herbert Smith Freehills obtiene esta respuesta: "El sistema tiene que resultar fácil de usar y que merezca la pena en el sentido de que incremente la productividad, especial -aunque no únicamente- en labores repetitivas. Ya sucedió con la informática hace 40 años y otro tanto sucederá en estos casos con la IA".
Ante la sobrecarga de casos
La siguiente cuestión que convendría aclarar en este tema es cómo podrían ayudar estas herramientas y soluciones de IA a los jueces en su trabajo diario. Para Álvaro García, responsable del Centro de Excelencia en IA de Atos en Iberia, esta transformación ya es real en muchos aspectos. "Las herramientas de IA proporcionan a los jueces recursos valiosos para enfrentar desafíos como la sobrecarga de casos". Entre otros, apunta cómo "la IA puede asistir a los jueces en la consulta de normativas al ofrecer acceso rápido y eficiente a una base de datos extensa y actualizada de leyes, reglamentos y disposiciones legales". Estas soluciones también pueden resultar útiles para identificar antecedentes y jurisprudencia relevante que puedan influir en el caso bajo análisis. Además, este portavoz de Atos estaca el papel de la IA "a la hora de detectar posibles inconsistencias, errores u omisiones". A su juicio, la unión de la IA generativa y de otras IAs pueden ayudar a los jueces "a detectar manipulaciones en documentos que evidencien fraudes, apoyando así la labor pericial".
El magistrado Gutiérrez Alonso admite que la IA puede ser muy útil como "herramienta auxiliar". Y menciona varios ejemplos de uso: "Facilita la búsqueda jurisprudencial, la gestión documental o la identificación de patrones en casos complejos. También puede apoyar la estimación de plazos, riesgos de reincidencia o la valoración de ciertas pruebas periciales, siempre bajo supervisión judicial. Pero nunca debe sustituir la deliberación humana ni la aplicación del derecho al caso concreto, que requiere juicio, ponderación, contexto y sensibilidad". Pero insiste: "La justicia no puede delegarse a una máquina".
Por su parte, la CEO de Solver IA recuerda cómo en el campo de la investigación penal "la IA también tiene aplicaciones relevantes" y cómo precisamente para minimizar los riesgos que la tecnología podría implicar "se ha impuesto un marco legislativo más restrictivo". Y nos menciona el uso que está haciendo la Policía Nacional con el sistema VeriPol, que detecta denuncias falsas en casos de robos con violencia o intimidación.
Gutiérrez Alonso: "La IA puede ser una aliada si se usa de forma crítica, regulada y controlada democráticamente. Pero si se utiliza sin límites ni garantías, el riesgo es ceder parcelas esenciales del poder democrático a sistemas opacos, entrenados con datos sesgados o sin control público"
Por último, cabe preguntarse si no estamos cediendo demasiado poder al dejar a la IA la posibilidad de que intervenga en nuestras leyes. Para el magistrado Gutiérrez Alonso, de Juezas y Jueces para la Democracia, "esa es la gran cuestión". "La IA puede ser una aliada si se usa de forma crítica, regulada y controlada democráticamente. Pero si se utiliza sin límites ni garantías, el riesgo es ceder parcelas esenciales del poder democrático a sistemas opacos, entrenados con datos sesgados o sin control público. La ley no es solo un producto técnico: expresa valores, equilibrios de poder y compromisos sociales. Por eso, dejar su diseño o aplicación en manos de la IA sin vigilancia humana no solo es peligroso: es contrario al principio mismo de soberanía popular".
El magistrado González Mariscal de Gante, de la Asociación Profesional de la Magistratura, aprovecha para explicar la situación en la que se encuentran los jueces: "Estamos dejándonos llevar olvidando nuestros deberes y obligaciones, que no son redactar mucho, hacer muchos folios o sacar leyes o sentencias más rápido. Es hacer mejores leyes, mejores sentencias, pensarlas y debatirlas, encontrar mejores soluciones y prestar el servicio que tenemos que prestar. La IA es el culmen de la eficiencia, pero la eficiencia es hacer más con menos y el objetivo de la justicia no es optimizar costes sino garantizar derechos. Ser eficiente no significa ser justo".
Rompe una lanza en favor de la tecnología el director de derecho digital de Herbert Smith Freehills: "Poner barreras a avances tecnológicos consolidados, y la IA es el mejor ejemplo de nuestros días, resulta descabellado. Si esto es ceder poder, sin duda lo habremos hecho. Aunque el poder no se reduce a esto, sino a la adopción final de decisiones, facultad que nunca debe hurtarse al ser humano".
En el cierre de este debate sobre el impacto de la IA en el ámbito judicial y legislativo, Victoria Corral, CEO de Solver IA, concluye que "la IA puede ser un gran apoyo en la automatización de ciertos procesos legislativos, así como una herramienta para mejorar la transparencia, la eficiencia y la trazabilidad normativa". Por último, Álvaro García, de Atos, resume el sentir de todos los expertos consultados: "La IA representa un avance significativo en la administración de justicia. Sin embargo, su papel debe ser el de asistente, no sustituto".
