Algoritmo, en realidad. En menos de 50 días vence el plazo para que el Poder Judicial cumpla lo que exige el Reglamento de la Ley de Inteligencia Artificial (IA): evaluaciones de impacto en derechos humanos, supervisión humana y transparencia algorítmica. No es una fumada. Ya hay pilotos que clasifican casos, apoyan la redacción de resoluciones en procesos de alimentos y dictan medidas de protección a mujeres víctimas de violencia. Que el Estado use IA es tan indispensable como riesgoso.
El Poder Judicial tiene unos cinco millones de expedientes en curso. Es imposible de manejar sin IA, pero ir demasiado rápido es peligroso. Y, encima, Elon Musk dice que en 2031 ya la IA habrá superado a la humana, aunque no es una opinión desinteresada. Pero tan importante como reconocer que es indispensable avanzar en su uso es entender los requisitos para asegurar su buen uso. Sin prisa, pero sin pausa es mejor mantra.
La OCDE revisó 200 casos de uso de IA en gobiernos. El resumen es que el riesgo no es avanzar demasiado rápido, sino automatizar la ineficiencia y la arbitrariedad.
Los peruanos, además, tenemos un prontuario de mala implementación de herramientas tecnológicas. En los últimos años fueron vulnerados los sistemas del Ministerio de Defensa y de la Dirección de Inteligencia de la PNP, nada menos. Justo donde nunca nada debería fallar. Peor aún, la propia PNP sostuvo que fue alguien con acceso al sistema quien habría filtrado información. No poder identificar quién extrajo esa información de sus propios sistemas es pecado mortal en cualquier dependencia estatal y papelón internacional en casos de información secreta. La pregunta realmente relevante es qué requisitos hay que cumplir para usar la IA bien, y en todo su potencial reformador.
El gobierno británico procesó más de cincuenta mil respuestas a una consulta pública en unas dos horas con una herramienta llamada Consult, lo que implicó un costo de 240 libras y veintidós horas de revisión de expertos. Como hubo analistas humanos que revisaron todas las respuestas se pudo comprobar sus buenos resultados.
En Ucrania, la plataforma estatal de compras se llama Prozorro (pésimo nombre en español). Transparency International desarrolló Dozorro, que aprende a identificar licitaciones con alto riesgo de corrupción y logró detectar 26% más adjudicaciones sin fundamento. Lo interesante aquí es que lo construyó la sociedad civil para vigilar al Estado. Me parece un modelo interesante para el Perú. El Estado rara vez se reforma sin exigencia de la sociedad civil.
Hablar de IA en general es engañoso, hay distintas IA para diferentes usos. Hay casos en los que la IA identifica algo y un auditor decide (licitaciones sospechosas, por ejemplo). Si hay error, el costo es un poco de tiempo perdido. Otra cosa es que alguien se quede sin ejercer un derecho porque la IA no identificó bien un patrón. Tratarlos como un solo asunto puede producir la peor combinación: exceso de cautela donde más sirve y ninguna donde se pueden violar derechos.
Atacar con urgencia la falta de capacitación es clave. El éxito de Estonia no se puede explicar sin la Academia Digital del Estado, con formación gratuita en gobernanza digital y manejo de datos para sus funcionarios. Implementar IA sin capacitar a los servidores produce herramientas subutilizadas, errores de alto impacto y una desconfianza que tarda años en revertirse. En un país donde la confianza institucional es bajísima, el potencial reformador que tiene la IA para lograr un Estado más eficiente y transparente no se puede desaprovechar.
Sabe Dios si el Poder Judicial podrá o no seguirle el ritmo al reglamento de esta ley. Resulta indispensable que exista un registro público de los sistemas de IA que el Estado emplea y evaluaciones de impacto publicadas. Cualquiera debe poder saber qué algoritmo intervino en su expediente. Como muchísimos problemas en el Perú, no es un problema de normas, sino de ejecución y verificación de que se cumple en serio y con criterio. Un G2G para la correcta implementación de la IA en el Estado podría ser una muy buena inversión. Hacerlo bien puede ser una de las pocas oportunidades para mejorar la gestión pública en plazos relativamente cortos.