Las luces fluorescentes del Aeropuerto Internacional Logan de Boston se difuminaban mientras Any Lucía López Belloza, una estudiante universitaria de primer año de 19 años, agarraba con fuerza su tarjeta de embarque. La emoción burbujeaba en su interior; estaba a punto de sorprender a su familia en Texas para el Día de Acción de Gracias. Pero esa alegría se evaporó en un instante. En lugar de un cálido abrazo, se enfrentó a la detención, y en 48 horas, estaba en un avión no a Texas, sino a Honduras, un país que apenas conocía. La administración Trump admitió más tarde que esta deportación fue un "error", una admisión escalofriante que plantea profundas preguntas sobre la intersección entre la aplicación de las leyes de inmigración, la tecnología y los derechos humanos.

Este caso, aunque aparentemente aislado, subraya una preocupación creciente: la creciente dependencia de los algoritmos y la IA en los procesos de inmigración, a menudo con transparencia y rendición de cuentas limitadas. Si bien el gobierno argumentó que el error no debería afectar su caso de inmigración, el incidente destaca el potencial de sesgo algorítmico y las consecuencias devastadoras cuando estos sistemas fallan.

El calvario de López Belloza comenzó el 20 de noviembre. A pesar de tener una orden judicial de emergencia que ordenaba al gobierno mantenerla en los EE. UU., fue deportada. La velocidad y la eficiencia con la que esto sucedió, incluso frente a la intervención legal, sugiere un sistema que prioriza el procesamiento rápido sobre el debido proceso. Esta eficiencia a menudo se promociona como un beneficio de los sistemas impulsados por la IA, pero también puede enmascarar fallas y sesgos subyacentes.

Las herramientas específicas de IA utilizadas en el caso de López Belloza no están claras. Sin embargo, las agencias de control de inmigración emplean cada vez más algoritmos para la evaluación de riesgos, el reconocimiento facial y la vigilancia predictiva. Estas herramientas analizan vastos conjuntos de datos para identificar a las personas que se considera que representan una amenaza o que corren el riesgo de violar las leyes de inmigración. El problema es que estos conjuntos de datos a menudo reflejan los sesgos sociales existentes, lo que lleva a resultados discriminatorios. Por ejemplo, si un algoritmo se entrena con datos que se dirigen de manera desproporcionada a personas de ciertos orígenes étnicos, es probable que perpetúe ese sesgo en sus predicciones.

"La IA es tan buena como los datos con los que se entrena", explica la Dra. Meredith Whittaker, destacada investigadora de IA y presidenta del AI Now Institute. "Si los datos reflejan sesgos históricos, la IA amplificará esos sesgos, lo que conducirá a resultados injustos y discriminatorios. En el contexto de la inmigración, esto puede tener consecuencias devastadoras".

La tecnología de reconocimiento facial, otra herramienta que se utiliza cada vez más en los aeropuertos y el control fronterizo, es particularmente propensa a errores, especialmente al identificar a personas de comunidades marginadas. Los estudios han demostrado que estos sistemas son significativamente menos precisos al identificar a personas de color, lo que genera preocupaciones sobre la identificación errónea y la detención injusta.

El uso de la IA en inmigración también plantea preocupaciones sobre la transparencia y la rendición de cuentas. Los algoritmos utilizados por las agencias gubernamentales suelen ser propietarios, lo que dificulta la comprensión de cómo se toman las decisiones y la impugnación de resultados potencialmente sesgados. Esta falta de transparencia socava el debido proceso y dificulta la responsabilización de estos sistemas.

"Necesitamos mayor transparencia y supervisión de los sistemas de IA utilizados en el control de inmigración", argumenta Eleanor Powell, analista principal de políticas de la Electronic Frontier Foundation. "Las personas tienen derecho a comprender cómo estos sistemas están tomando decisiones que afectan sus vidas, y deben tener la oportunidad de impugnar esas decisiones".

El caso de López Belloza sirve como un crudo recordatorio de los posibles peligros de confiar en la IA en la toma de decisiones de alto riesgo. Si bien la IA ofrece la promesa de una mayor eficiencia y precisión, también conlleva el riesgo de perpetuar el sesgo y socavar los derechos fundamentales. A medida que la IA se integra cada vez más en los procesos de inmigración, es crucial priorizar la transparencia, la rendición de cuentas y la supervisión humana para garantizar que estos sistemas se utilicen de manera justa y equitativa. El futuro del control de inmigración depende de nuestra capacidad para aprovechar el poder de la IA de manera responsable, mitigando sus riesgos y asegurando que la tecnología sirva a la humanidad, no al revés. El "error" en el caso de López Belloza debería ser un catalizador para una conversación más amplia sobre las implicaciones éticas de la IA en la inmigración y la urgente necesidad de salvaguardias para proteger a las poblaciones vulnerables.