ONG aboga por la protección de datos en personas que se registran en búsqueda de empleos

Un estudio reveló determinadas preocupaciones en la nueva etapa del portal de empleo paraguayo que incorpora IA para seleccionar personal. En el marco de un proyecto de investigación sobre esta tecnología, la ONG latinoamericana “Derechos Digitales” alertó sobre la urgente necesidad de aprobar una Ley de Protección de Datos para garantizar un entorno digital seguro y ético.

Seis años atrás, Paraguay comenzó a implementar el uso de IA en su sistema de empleos y se posicionó en la región como un Estado pionero en la inclusión de este tipo de tecnologías en políticas públicas. Así nació ParaEmpleo, ahora conocido como EmpleaPy. Miles de personas cargaron sus datos personales en un CV online y seleccionaron sus preferencias para conseguir un puesto de trabajo. Si bien el Portal EmpleaPy fue creado con el fin de aumentar la empleabilidad mediante la automatización de procesos, según un estudio detallado dirigido por Derechos Digitales, los sistemas de toma de decisiones automatizada (ADM, por sus siglas en inglés) se implementan en el país sin un marco sólido de protección de datos personales. Esto plantea preocupaciones sobre la falta de garantías adecuadas para las personas usuarias de la plataforma.

El proyecto Inteligencia Artificial e Inclusión, coordinado por la ONG Derechos Digitales desde 2019, ya cuenta con 10 casos de estudio en donde la IA se implementa en distintos gobiernos de América Latina en políticas públicas en áreas sensibles como las de empleo, educación, seguridad, entre otras, tanto a nivel nacional como subnacional. Algunos de los resultados principales exponen baja efectividad de estos sistemas, marcos normativos inadecuados, cuestionable manejo de información personal y escasos espacios abiertos a la participación ciudadana.

“La digitalización de la intermediación laboral en Paraguay, con el sistema EmpleaPy, evidencia los desafíos de construir plataformas de empleo basadas en datos con criterios de equidad y transparencia, en un contexto sin una legislación en protección de datos personales. También es un ejemplo de cómo el Estado, en este caso el Poder Ejecutivo, puede transitar de la dependencia de tecnologías del sector privado al desarrollo de sistemas públicos, lo que le permitiría un mayor control sobre los datos para almacenar y procesar”, subrayó Juan Manuel García, Coordinador de investigación de Derechos Digitales.

Si bien durante el último tiempo la introducción de nuevas herramientas de IA en la plataforma permite optimizar el proceso de selección de personas, el informe evidencia que aún no existe un análisis de riesgo de sesgos de clasificaciones sobre los perfiles, los datos personales, o potenciales errores para garantizar que la herramienta sea lo más inclusiva posible. El caso de Paraguay, uno de los pocos países de América del Sur que aún no cuenta con una ley de protección integral de datos personales, fue analizado por TEDIC en colaboración con Derechos Digitales.
Los otros casos del proyecto incluyen experiencias de IA aplicadas por los Estados de Argentina, Brasil, Chile, Colombia, México y Uruguay. El conjunto de las investigaciones desarrolladas con organizaciones de América Latina, demuestra que el uso de esta tecnología en la implementación de políticas públicas sin las garantías adecuadas, puede afectar derechos fundamentales como la privacidad, el acceso a la justicia y la equidad en la toma de decisiones estatales.

“El uso de inteligencia artificial en la función pública no es solo una cuestión técnica, sino una decisión política con implicancias profundas para los derechos humanos. Los casos analizados muestran cómo estas tecnologías pueden reforzar desigualdades, afectar la intimidad y limitar el acceso a beneficios sociales, especialmente cuando se implementan sin transparencia, supervisión adecuada o mecanismos de rendición de cuentas”, agregó García.