El sueño de una estudiante de dar una sorpresa en Acción de Gracias se convirtió en una pesadilla cuando Any Lucía López Belloza, de 19 años, estudiante de primer año de Babson College, fue detenida en el aeropuerto de Boston y deportada a Honduras. La administración Trump admitió más tarde que la deportación fue un "error", una clara ilustración de las complejidades y los posibles escollos dentro del sistema de inmigración de EE. UU. Pero, ¿qué sucede cuando los algoritmos, impulsados por la inteligencia artificial, se involucran cada vez más en estas decisiones de alto riesgo?

El caso de López Belloza destaca una creciente preocupación: el papel de la IA en el control de la inmigración. Si bien los detalles de la participación de la IA en su caso no están claros, la tendencia general apunta hacia una mayor dependencia de los algoritmos para tareas que van desde la evaluación de riesgos hasta la identificación de posibles violaciones de inmigración. Estos algoritmos, entrenados con vastos conjuntos de datos, están diseñados para identificar patrones y predecir resultados. Sin embargo, no son infalibles.

Los sistemas de IA son tan buenos como los datos con los que se entrenan. Si los datos reflejan sesgos existentes, la IA perpetuará e incluso amplificará esos sesgos. Esto puede conducir a resultados discriminatorios, particularmente para las comunidades marginadas. En el contexto de la inmigración, esto podría significar que las personas de ciertos países o con características demográficas específicas son señaladas injustamente como de alto riesgo, lo que lleva a un mayor escrutinio y una posible deportación.

"El sesgo algorítmico es una preocupación importante en muchas áreas, y la inmigración no es una excepción", explica la Dra. Sarah Miller, profesora de ética de datos en el MIT. "Estos sistemas pueden codificar inadvertidamente sesgos sociales, lo que lleva a resultados injustos o discriminatorios. La transparencia y la rendición de cuentas son cruciales para garantizar que la IA se utilice de manera responsable en el control de la inmigración".

El uso de la IA en inmigración también plantea interrogantes sobre el debido proceso y la transparencia. Es posible que las personas no sepan por qué fueron señaladas por un algoritmo, lo que dificulta impugnar la decisión. Esta falta de transparencia puede erosionar la confianza en el sistema y socavar los derechos fundamentales.

La admisión de error por parte de la administración Trump en el caso de López Belloza subraya el costo humano de estas fallas sistémicas. Si bien la administración se disculpó, simultáneamente argumentó que el error no debería afectar su caso de inmigración, lo que plantea más preguntas sobre el compromiso del gobierno de rectificar la situación.

El incidente también destaca las limitaciones de depender únicamente de sistemas automatizados para la toma de decisiones. La supervisión humana y el pensamiento crítico son esenciales para garantizar que los algoritmos se utilicen de manera ética y justa. A medida que la IA se vuelve más frecuente en el control de la inmigración, es crucial establecer pautas y regulaciones claras para prevenir el sesgo, proteger el debido proceso y garantizar la rendición de cuentas.

De cara al futuro, el desarrollo de la "IA explicable" (XAI) podría ofrecer una posible solución. XAI tiene como objetivo hacer que la toma de decisiones de la IA sea más transparente y comprensible, permitiendo a las personas ver por qué un algoritmo tomó una decisión en particular. Esto podría ayudar a identificar y corregir sesgos, así como a proporcionar a las personas la información que necesitan para impugnar resultados injustos.

El caso de Any Lucía López Belloza sirve como una advertencia, recordándonos que la tecnología, aunque poderosa, no es un sustituto del juicio humano y las consideraciones éticas. A medida que dependemos cada vez más de la IA en el control de la inmigración, es imperativo que prioricemos la equidad, la transparencia y la rendición de cuentas para garantizar que el sistema sirva a la justicia para todos.