Las luces fluorescentes del Aeropuerto Internacional Logan de Boston se difuminaban mientras Any Lucía López Belloza, una estudiante universitaria de primer año de 19 años, apretaba su tarjeta de embarque. La emoción burbujeaba dentro de ella; estaba a punto de sorprender a su familia en Texas para el Día de Acción de Gracias. Pero la alegría se evaporó cuando los funcionarios de inmigración la detuvieron, y en 48 horas, Any Lucía se encontró deportada a Honduras, un país que apenas conocía. La administración Trump admitió más tarde que esto fue un "error", pero el incidente plantea preguntas cruciales sobre el papel de los algoritmos y los datos en el control de la inmigración, y el potencial de sesgo en estos sistemas.

El caso de Any Lucía destaca una preocupación creciente: la creciente dependencia de herramientas impulsadas por la IA en los procesos de inmigración. Si bien los detalles del algoritmo utilizado en su caso siguen sin revelarse, es probable que un sistema diseñado para identificar posibles infracciones de inmigración la haya señalado. Estos sistemas a menudo analizan vastos conjuntos de datos, incluido el historial de viajes, la actividad en las redes sociales e incluso los datos de reconocimiento facial, para evaluar el riesgo. El objetivo es agilizar el proceso, identificar posibles amenazas y asignar recursos de manera eficiente. Sin embargo, la naturaleza opaca de estos algoritmos, a menudo denominados "cajas negras", dificulta la comprensión de cómo se toman las decisiones y si son justas.

El problema central radica en el potencial de sesgo algorítmico. Los sistemas de IA aprenden de los datos, y si esos datos reflejan los sesgos sociales existentes, el algoritmo los perpetuará e incluso los amplificará. Por ejemplo, si un conjunto de datos utilizado para entrenar un algoritmo contiene instancias desproporcionadas de personas de ciertos orígenes étnicos que son señaladas por infracciones de inmigración, el algoritmo puede atacar injustamente a personas de esos mismos orígenes en el futuro. Esto puede conducir a resultados discriminatorios, incluso si el algoritmo en sí no está explícitamente diseñado para ser sesgado.

"El sesgo algorítmico es una seria preocupación en todas las áreas donde se utiliza la IA para tomar decisiones que afectan la vida de las personas", explica la Dra. Meredith Whittaker, presidenta del AI Now Institute, un centro de investigación líder que examina las implicaciones sociales de la inteligencia artificial. "En el contexto de la inmigración, lo que está en juego es increíblemente alto. Un algoritmo sesgado puede conducir a detenciones injustas, deportaciones y separaciones familiares".

La admisión de error por parte de la administración Trump en el caso de Any Lucía subraya la falibilidad de estos sistemas. Incluso con algoritmos sofisticados, pueden ocurrir errores y las consecuencias pueden ser devastadoras. Si bien la administración se disculpó, simultáneamente argumentaron que el error no debería afectar su caso de inmigración, lo que destaca aún más las complejidades y las posibles injusticias inherentes al sistema.

El uso de la IA en el control de la inmigración también plantea preocupaciones sobre la transparencia y la rendición de cuentas. Cuando un humano comete un error, generalmente existe un proceso de revisión y apelación. Sin embargo, cuando un algoritmo comete un error, puede ser difícil entender por qué se tomó la decisión y cómo impugnarla. La falta de transparencia dificulta la responsabilización del sistema y garantizar que sea justo y equitativo.

La Unión Europea está tomando medidas para abordar estas preocupaciones con la Ley de IA, una propuesta de reglamento que establecería reglas para el desarrollo y la implementación de sistemas de IA, incluidos los utilizados en inmigración. La Ley requeriría que los sistemas de IA de alto riesgo sean transparentes, responsables y estén sujetos a la supervisión humana. Esto podría servir como modelo para otros países que buscan regular el uso de la IA en el control de la inmigración.

La experiencia de Any Lucía López Belloza sirve como un crudo recordatorio de los posibles peligros de depender de la IA en el control de la inmigración. Si bien estos sistemas pueden ofrecer eficiencia y velocidad, deben diseñarse y supervisarse cuidadosamente para garantizar la equidad, la transparencia y la rendición de cuentas. A medida que la IA continúa evolucionando, es crucial tener conversaciones abiertas y honestas sobre sus implicaciones para la sociedad y desarrollar políticas que protejan los derechos y la dignidad de todas las personas. El futuro del control de la inmigración depende de nuestra capacidad para aprovechar el poder de la IA de manera responsable y ética.