Uso de Inteligencia Artificial en las Solicitudes de Inmigración

La cantidad de solicitudes de inmigración aumenta constantemente y los clientes esperan interacciones más rápidas y fáciles. Por lo tanto, IRCC ha estado utilizando big data e inteligencia artificial (IA) para reemplazar algunos tomadores de decisiones humanas en su sistema de inmigración. Por supuesto, esto genera preocupación sobre cómo la tecnología podría conducir a errores en las solicitudes de los inmigrantes.

En este artículo, revisaremos los sistemas de decisión automatizados que IRCC ha estado usando en las aplicaciones y los principios rectores detrás de ellos.

Uso de inteligencia artificial para el procesamiento de inmigración: antecedentes

Un informe publicado en el 2018 por el Citizen Lab de la Universidad de Toronto sugirió que Canadá ha estado experimentando con IA desde el 2014. “El gobierno también ha buscado discretamente aportes del sector privado en relación con un proyecto piloto en el 2018, para una solución de inteligencia artificial en la toma de decisiones y evaluaciones de inmigración”, dice el informe. El informe también mencionó que esto incluía solicitudes humanitarias y compasivas y evaluaciones de riesgos previas a la expulsión. Las personas vulnerables utilizan estas dos aplicaciones como último recurso para permanecer en Canadá.

A principios de ese año, los funcionarios federales lanzaron un proyecto piloto para tener un sistema de inteligencia artifical entre las solicitudes de visa de residentes temporales de China e India. El programa de análisis ayudó a los oficiales a clasificar las solicitudes de visa en línea para procesar algunos casos de manera más eficiente.

Según una presentación de IRCC (2020), el departamento utilizó «análisis avanzados y aprendizaje automático para automatizar una parte del proceso comercial de visas de residentes temporales (TRV), centrándose en las solicitudes en línea de China e India».

Sin embargo, según la misma presentación, IRCC no realizó:

• Automatización de decisiones en líneas de negocio como: asilo, casos humanitarios y compasivos, y evaluación de riesgos previa a la expulsión.
• Uso de algoritmos de “caja negra” que hacen determinaciones de maneras desconocidas o inexplicables.
• Planificación para desplazar el papel central de los oficiales en la toma de decisiones de inmigración.

En los últimos años…

En el 2020, el gobierno de Canadá publicó una directiva sobre la toma de decisiones automatizadas, que describía las responsabilidades de los departamentos federales que utilizan IA. También lanzó la herramienta de evaluación de impacto algorítmico para ayudar a las instituciones a comprender la implementación de la IA. Además, la herramienta determina el impacto de los sistemas de decisión automatizados.

Parsai Immigration Services investigó sobre los proyectos piloto de IA de IRCC. Sin embargo, no hubo mucha información pública sobre cómo exactamente el departamento está utilizando inteligencia artificial para ofrecer programas y servicios. Según otra presentación de la Conferencia de datos del gobierno de Canadá (febrero de 2021), esto es lo que hizo IRCC en el 2021:

Nuestra firma obtuvo la política sobre los sistemas de decisión automatizados, a través de una solicitud de información a IRCC, para tener una mejor comprensión de los principios rectores detrás de estos proyectos. Exploremos esta política.

Manual de políticas sobre apoyo automatizado para la toma de decisiones / Policy Playbook on Automated Support for Decision-making

La política, que es una versión/borrador de trabajo, guía a las personas involucradas en el desarrollo e implementación de sistemas automatizados que respaldan la toma de decisiones. Además, cubre algunas consideraciones legales y consejos para alinearse con las leyes administrativas, de derechos humanos y de privacidad.

La política se dirige a los sistemas automatizados que respaldan, en su totalidad o parcialmente, las decisiones administrativas. Esto incluye sistemas que:

• clasifican los casos según el nivel de escrutinio que requieren;
• marcan casos para revisión o investigación humana;
• proporcionan recomendaciones sobre si las solicitudes deben aprobarse;
• o toman decisiones completas.

Según la política, estos sistemas asumen un nuevo papel en el modelo de toma de decisiones de IRCC y las reglas que aplican estos sistemas “podrían derivarse de análisis de datos sofisticados o de entrevistas con oficiales experimentados”.

“Una nueva política sobre soporte automatizado para la toma de decisiones es una oportunidad para garantizar que el pensamiento del Departamento se mantenga al día con la velocidad del cambio tecnológico, y que nuestra gente y nuestras prácticas continúen brindando un conjunto de programas a la altura de las expectativas de los canadienses y el resto del mundo.»

12 Principios

El siguiente conjunto de principios describe los objetivos generales de IRCC:

1. El uso de la inteligencia artificial y la automatización debería generar un claro beneficio público. IRCC debe usar estas herramientas siempre que pueda hacerlo de manera responsable, efectiva y eficiente.
2. Los seres humanos (no los sistemas informáticos) son responsables de la toma de decisiones, incluso cuando las decisiones se llevan a cabo mediante sistemas automatizados.
3. Debido a que las decisiones de IRCC tienen un impacto significativo en la vida de los clientes y los canadienses, el Departamento debe priorizar los enfoques que conllevan el menor riesgo.
4. Los algoritmos de caja negra pueden ser útiles, pero no pueden ser el único factor determinante de las decisiones finales sobre las aplicaciones de los clientes.
5. IRCC debe reconocer las limitaciones de las tecnologías basadas en datos y tomar todas las medidas razonables para minimizar el sesgo no deseado.
6. Los oficiales deben ser informados, no llevados a conclusiones.
7. Los seres humanos y la IA desempeñan papeles complementarios. IRCC debe esforzarse por afinar los roles de cada uno.
8. Además, IRCC debe adoptar continuamente las mejores prácticas emergentes relacionadas con la privacidad en un campo en rápida evolución.
9. IRCC debe someter los sistemas a una supervisión continua para garantizar que sean técnicamente sólidos, coherentes con las autoridades legales y políticas, justos y que funcionen según lo previsto.
10. Además, IRCC siempre debe poder proporcionar una explicación significativa de las decisiones tomadas en las aplicaciones de los clientes.
11. IRCC debe ser transparente sobre el uso de IA. Debe proporcionar un acceso significativo al sistema mientras protege la seguridad de los canadienses.
12. El uso de sistemas automatizados por parte de IRCC no debe disminuir la capacidad de una persona para presentar un recurso.

El manual sobre automatización

El manual guía al personal del IRCC a través de preguntas que deben considerarse en varias etapas de los proyectos de IA y automatización. Esto incluye exploración temprana y monitoreo continuo una vez que el sistema está funcionando. En otras palabras, el manual ayuda a determinar si un sistema de decisión automatizado es o no una buena solución al problema que el personal está tratando de abordar.

El manual analiza las siguientes áreas:

El soporte automatizado en la toma de decisiones como posible solución

• Idoneidad general: en situaciones en las que las mentes razonables pueden diferir, el manual no recomienda la automatización. Por el contrario, el personal puede buscar la automatización si el análisis de decisiones pasadas ha demostrado que prácticamente cualquier oficial llegaría a la misma conclusión.
• Diagnósticos preliminares y evaluaciones de impacto: en esta etapa, el personal debe concentrarse en recopilar datos desglosados ​​sobre los clientes, analizar estos datos en busca de calidad y sesgo histórico y verificar sus suposiciones.
• Capacitación: esto puede variar desde cursos sobre gobierno digital, como los que ofrece la Academia Digital de la Escuela de Servicio Público de Canadá, hasta capacitaciones sobre privacidad y alfabetización de datos.
• Compromiso de los socios y las partes interesadas: el personal debe buscar deliberadamente las opiniones de un grupo diverso de partes interesadas y documentar sus perspectivas, como lo haría al desarrollar una política significativa o un cambio legislativo.
• Planificación para el diseño: implica los recursos que el personal utilizará para la experimentación de análisis de datos y el desarrollo de sistemas iterativos.
• Enfoque centrado en el usuario: antes de emprender un proyecto, el personal deberá tener una buena comprensión del entorno operativo general en cuestión.

Diseñando el sistema

• Idoneidad del modelo: explorar, simular y probar algunas alternativas para confirmar la hipótesis inicial y fortalecer el caso de negocio.
• Evaluación de impacto algorítmica (AIA): completar una evaluación preliminar en la etapa de diseño para ayudar a anticipar los riesgos asociados con el proyecto.
• Diseño centrado en el usuario: pensando tanto en la forma más adecuada de utilizar la tecnología como en la mejor manera de involucrar a los humanos.
• Equidad y no discriminación: pensar detenidamente cómo la adición de la automatización cambiará el procesamiento de solicitudes y la toma de decisiones.
• Explicabilidad y transparencia: como regla general, las explicaciones deben: (1) ayudar a los clientes a comprender una decisión en particular y (2) proporcionar motivos para impugnar la decisión si el cliente desea hacerlo.
• Privacidad: IRCC debe trabajar con un experto en privacidad dentro de los equipos de análisis avanzados, para garantizar que la privacidad se considere en cada etapa.
• Trabajar al aire libre: implica la publicación de informes sobre IA y automatización.
• Rendición de cuentas y seguridad: una revisión del cumplimiento de las políticas de ciberseguridad existentes y los controles de seguridad identificados.

Imagen: Part III – An overview of legal considerations and practical tips | Policy Playbook on Automated Support for Decision-making.

Preparándose para el lanzamiento

Esta sección habla sobre el proceso para obtener la aprobación final. También incluye una evaluación de la preparación del usuario, del sistema y de los socios.

Una vez en funcionamiento

La sección responde preguntas como: ¿Sigue funcionando el sistema según lo previsto originalmente? ¿Algún factor interviniente apunta a la necesidad de una revisión?

El manual sobre automatización también incluye información como consideraciones legales y consejos prácticos, una lista de verificación para la directiva sobre la toma de decisiones automatizada y requisitos básicos de privacidad. Centrémonos en el último.