La IA en el Arbitraje: entre la tentación digital y la transparencia ética

Hace poco tuvimos la oportunidad de participar en la VII Conferencia Internacional Women in Arbitration, organizada por el Instituto Peruano de Arbitraje - IPA, donde se nos permitió compartir algunas reflexiones sobre un tema que consideramos fundamental para el presente y futuro del arbitraje: el uso de la inteligencia artificial. Tuvimos la fortuna de compartir panel con excelentes profesionales y durante nuestra exposición, abordamos las oportunidades que esta tecnología representa, pero sobre todo, los desafíos éticos y jurídicos que su aplicación plantea. Es ahí donde surge la pregunta esencial: ¿qué significa realmente la transparencia algorítmica?
La transparencia algorítmica implica que podamos entender cómo ha funcionado el algoritmo de la inteligencia artificial (es decir, saber qué datos se introdujeron, el procesamiento, la salida y el aprendizaje). Es, en concreto, poder saber qué factores determinan la decisión automatizada y poder auditarla.
Ahora bien, no deseamos que se interprete que, con transparencia algorítmica entraríamos en una divulgación indiscriminada de información; ello resultaría contraproducente con otro de los pilares fundamentales del arbitraje: la confidencialidad; sino que, nos referimos más bien a que las partes y el tribunal puedan acceder la información comprensible sobre la lógica general de funcionamiento de la herramienta, su propósito, las fuentes de datos utilizadas y los criterios que sustentan su intervención en el proceso, así como los límites de su uso. De esta forma, se garantiza que cualquier influencia ejercida por la inteligencia artificial pueda ser sometida a contradicción y control, principios esenciales de un debido proceso.
Ahora una gran pregunta es ¿Por qué este debe ser el estándar ético mínimo en el arbitraje? Pues la respuesta se encuentra en el hecho de que sin esta transparencia algorítmica el debido proceso se pone en riesgo. No hay transparencia cuando, por ejemplo, el sistema redacta un borrador de laudo sin mostrar qué criterios aplicó; o cuando genera recomendaciones que ninguna de las partes puede auditar ni cuestionar. Si el árbitro no puede explicar cómo usó la herramienta ni cómo llegó a esa conclusión, entonces la IA ha reemplazado al árbitro, no lo ha asistido.
A nivel internacional la Organización para la Cooperación y el Desarrollo Económicos – OCDE, la Ley de Inteligencia Artificial de la Unión Europea, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura – UNESCO, entre otros organismos, han establecido que la transparencia, la trazabilidad y la rendición de cuentas constituyen principios esenciales del uso de la IA. En particular, la Ley de Inteligencia Artificial de la Unión Europea establece que el uso de la IA en la impartición de justicia es un sistema muy riesgoso por la alta probabilidad de afectación a derechos fundamentales por lo que el estándar de regulación y cuidado que se debe seguir resulta bastante más elevado que para otros sectores, enfatizándose la labor humana de supervisión como pilar esencial.
Entonces la transparencia algorítmica es una condición indispensable para una correcta conducción del arbitraje, a fin de mantener la confianza y para proteger derechos fundamentales. Es claro que no podemos vendarnos los ojos ante una realidad: la IA llegó para quedarse y revolucionar cada sector de nuestras vidas; sin embargo, debemos cuidarnos de la tentación de un uso indebido de la misma.
Llegados a este punto una pregunta podría ser ¿Por qué hacemos menciones reiteradas a la Ética? La razón es que a nivel nacional aún nos encontramos en una zona gris regulatoria en el campo arbitral, por lo que, por ahora, solo podemos orientarnos por la conducción ética.
Ahora bien, sí debemos celebrar algunos grandes avances que estamos teniendo a nivel país. A modo de ejemplo mencionamos los siguientes:

1. Algunos tribunales arbitrales han empezado de manera proactiva a discutir y regular internamente el empleo de esta herramienta; lo cierto es que esas regulaciones solo aplican a los casos que administran.
2. Por otro lado, tenemos la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país la cual aún está pendiente de reglamentación pero que, no tiene regulación sobre el rol de la IA en la impartición de justicia.
3. También tenemos los lineamientos sobre el uso ético de la inteligencia artificial que ha publicado recientemente el INDECOPI que establecen, entre otros, principios de transparencia, es decir, informar cómo influye la IA en decisiones institucionales precisando que la IA es solo una herramienta de apoyo y no sustituye el juicio profesional.
4. Finalmente, en octubre de 2023, se aprobó el Laboratorio de Inteligencia Artificial de la Corte Superior de Justicia de Lima y ya en su fase piloto tienen dos IA’s que se encuentran trabajando: AMAUTA.PRO y JUSTO. Consideramos que este es el avance sectorial más grande que tenemos a la fecha.
Sin embargo, no obstante estos avances, debemos reconocer que todavía existe un largo camino por recorrer en materia de regulación arbitral específica. Aún no contamos con lineamientos que aborden de manera integral la interacción entre la inteligencia artificial y los procesos arbitrales. Este vacío genera incertidumbre para todos los partícipes de los procesos (árbitros, centros de arbitraje, partes, peritos, abogados, expertos, etc.); por ello resulta importante que el debate sobre la IA en el arbitraje se mantenga abierto y evolucione hacia propuestas normativas concretas.
Naturalmente, estamos siguiendo los pasos de otras jurisdicciones que ya tienen un desarrollo más avanzado de la IA en la impartición de justicia como el Reino Unido que ha elaborado la “Guía para el uso responsable de la inteligencia artificial”. En este documento -sumamente útil y práctico- se establecen las labores que se pueden delegar y las que no sons factibles delegar nunca en la IA, manteniendo siempre el factor humano como responsable ulterior. Nuevamente vemos la especial relevancia que tendrá el uso responsable y ético de esta herramienta.
En conclusión, la inteligencia artificial ya está transformando el arbitraje. Depende de nosotros asegurar que lo haga con transparencia y ética, para que esta revolución tecnológica no desplace la confianza ni principios que sostienen la práctica arbitral.

Por Dra. Elizabeth Peralta Quispe

Abogada Asociada Senior del Área de Arbitraje de Torres y Torres Lara Abogados

Mira más contenidos siguiéndonos en Facebook, X, Instagram, TikTok y únete a nuestro grupo de Telegram para recibir las noticias del momento.