La abogada María Jaraquemada acaba de asumir como nueva presidenta del Consejo para la Transparencia (CPLT), entidad a cargo de velar por el cumplimiento de la Ley de Transparencia, legislación que obliga a las entidades públicas a transparentar información y además permite hacer solicitudes de acceso a información.
En su nueva labor, la otrora directora de Espacio Público y de Chile Transparente, dice que quiere promover la transparencia en el uso de algoritmos públicos dentro del Estado.
El consenso es que la tecnología avanza más rápido que la legislación, pero transparentar algoritmos públicos se viene discutiendo hace un tiempo. ¿Está Chile atrasado en esta materia?
Esto ha sido tan rápido y tan evolutivo que no sé si hay algún país que esté al día. Es muy dinámico, es muy cambiante. Tenemos la experiencia en la Unión Europea que ha avanzado mucho más en regulación, pero en general es algo más bien excepcional. Tenemos un proyecto de ley que se está discutiendo, hay una política nacional que estableció el gobierno y desde el CPLT hemos querido aportar desde la rendición de cuentas sobre la utilización de la inteligencia artificial en el sector público exclusivamente. Hay algunas iniciativas que ya están avanzadas, pero efectivamente ha sido un tema tan explosivo y dinámico que ha avanzado mucho más rápido que la regulación. Y ese es un desafío: ¿Cómo haces para tener una regulación sin que quede obsoleta rápidamente?
¿Qué promueven desde el Consejo para la Transparencia?
Los principios que tenemos de la función pública o de la Ley de Transparencia actual pueden ser aplicables. Por eso hemos avanzado en hacer una recomendación. Con la ley actual puedes aplicar ciertos principios y aplicar esta normativa al uso de sistemas de decisión automatizada o algoritmos por el sector público. Hay que hacer ciertas guías y recomendaciones para que se entienda cómo se aplica.
¿Qué tan transparente se puede ser? Aunque se transparenten los algoritmos, es muy técnico y la gente no lo entiende.
Eso es cierto. Nosotros hemos incentivado para el uso de los algoritmos en el sector público, el lenguaje claro. Si a mí me pasan el código fuente de un algoritmo no voy a entender nada. Obviamente eso no aporta a la transparencia. Para las personas comunes y corrientes nosotros necesitamos otro tipo de información. Necesitamos entender, por ejemplo, si estamos interactuando con un chatbot, algo que se está expandiendo en uso. Saber que no es una persona de carne y hueso y cuándo puedo acceder a una persona. Hay que tener cierta explicabilidad particularmente sobre los procesos y las decisiones que se toman, porque el sector público está tomando decisiones que pueden afectar mi vida, como acceder a ciertos beneficios sociales por ejemplo.
Se cuestiona que los algoritmos tomen decisiones y no los humanos.
Muchas veces se utiliza esto para tomar decisiones de dónde vamos a distribuir los recursos policiales. En temas de educación, salud. Y entonces hay que entender el cómo y el por qué de estas decisiones. Eso no significa acceder a todo el detalle técnico, pero sí a cierta información, cierta revisión crítica de las decisiones públicas que se están tomando.
El problema es que mucho de estos softwares son de códigos cerrados. Es limitado lo que puedan saber los organismos públicos acerca de su funcionamiento.
Es un tema que hemos promovido: la transparencia en la contratación. Eso ya por transparencia se tiene que revelar. Y efectivamente alguien lo puede pedir. Nos ha pasado que gente ha pedido información sobre los algoritmos y el organismo dice: “No puedo entregarlo porque hay propiedad intelectual”. Pero igual se puede reclamar al Consejo para la Transparencia y como la presunción es la publicidad de la información, nosotros decidimos caso a caso. Aunque haya alguna cláusula de propiedad intelectual, siempre debiera haber cierta aplicabilidad sobre los datos que se están utilizando.
¿Podrían ingresar indicaciones sobre esto a la Ley de Transparencia 2.0 que duerme en su segundo trámite constitucional en el Senado?
Sí. Podría entrar una indicación que esperamos que se reactive. Ha habido un compromiso público del Presidente y esperamos que eso se reactive prontamente. Y también hay un proyecto de inteligencia artificial. En el sector privado no tenemos competencias, pero podría haber ciertas regulaciones donde el consejo pudiera tener un cierto rol. Estamos trabajando en un catálogo del que nos han autorreportado los servicios públicos de cuándo utilizan inteligencia artificial o sistemas de decisión automatizado. De aquí a fin de año lo vamos a poner a disposición de la ciudadanía.
¿Qué muestra ese catálogo?
Por ahora la información preliminar que tenemos levantada es que hay alrededor de 161 sistemas de decisión automatizada reportados en 61 instituciones. Y hay un poco de todo. Se está utilizando mucho asistente virtual o chatbot. Hay otros que lo utilizan como sistema de contabilidad. Y algunos lo utilizan como sistemas para la asignación de beneficios. Muchas veces la tecnología nos supera, va más avanzada. Y eso genera desconfianza o una brecha digital y puede contribuir a una mayor distancia con los servicios públicos. Como no queremos que eso pase, queremos contribuir a que se entienda cómo se está utilizando un sistema de decisión automatizada.
¿Qué tanto complica para estos efectos la postergación por un año de la nueva Ley de Protección de Datos Personales?
Es un tema relevante, porque estos sistemas muchas veces se alimentan de datos personales y sensibles y requieren también una debida protección. Es un tema país, y efectivamente mientras más va avanzando la inteligencia artificial,más necesitamos una agencia autónoma que tenga las capacidades y las competencias de fiscalizar.