La sorpresa de Acción de Gracias de una estudiante de primer año de universidad se convirtió en una pesadilla cuando fue detenida en el aeropuerto de Boston y deportada a Honduras, un país que no había visto en años. Any Lucía López Belloza, una estudiante de 19 años de Babson College, simplemente intentaba sorprender a su familia en Texas. En cambio, se vio atrapada en la compleja red de control de inmigración, un sistema cada vez más influenciado por algoritmos y la toma de decisiones basada en datos. La administración Trump admitió más tarde que la deportación fue un "error", pero el incidente plantea preguntas críticas sobre el papel de la tecnología en la inmigración y el potencial de errores con consecuencias humanas devastadoras.

El caso destaca la creciente dependencia de la IA en el control de la inmigración. Agencias como ICE (Servicio de Inmigración y Control de Aduanas) están utilizando algoritmos para identificar a personas para su deportación, evaluar el riesgo e incluso predecir el comportamiento futuro. Estos algoritmos, a menudo entrenados con vastos conjuntos de datos, pueden perpetuar los sesgos presentes en los datos, lo que lleva a resultados discriminatorios. En el caso de López Belloza, no está claro qué factores llevaron a su detención y deportación, pero el incidente subraya el potencial de los errores algorítmicos para perturbar vidas y familias.

El calvario de López Belloza comenzó el 20 de noviembre cuando fue detenida en el aeropuerto de Boston. A pesar de una orden judicial de emergencia emitida al día siguiente que instruía al gobierno a mantenerla en los EE. UU. para procedimientos legales, fue deportada a Honduras solo dos días después. Este flagrante desprecio por el debido proceso plantea serias preocupaciones sobre la rendición de cuentas de las autoridades de inmigración y la eficacia de las salvaguardias legales frente a los rápidos avances tecnológicos. La disculpa de la administración, aunque reconoce el error, no deshace el trauma y la perturbación que experimentó López Belloza.

"El uso de la IA en la inmigración es una caja negra", explica la Dra. Sarah Williams, profesora de ética de datos en el MIT. "A menudo no sabemos con qué datos se entrenan estos algoritmos, cómo toman decisiones o qué salvaguardias existen para evitar errores. Esta falta de transparencia dificulta la responsabilización de las agencias cuando las cosas van mal". La Dra. Williams enfatiza que el sesgo algorítmico es una preocupación importante. Si los datos utilizados para entrenar un algoritmo reflejan los sesgos sociales existentes, es probable que el algoritmo perpetúe e incluso amplíe esos sesgos. Por ejemplo, si un algoritmo se entrena con datos que se dirigen desproporcionadamente a ciertos grupos étnicos por violaciones de inmigración, puede señalar injustamente a personas de esos grupos, independientemente de su riesgo real.

Las implicaciones del control de la inmigración impulsado por la IA se extienden más allá de los casos individuales. El uso cada vez mayor de la tecnología de reconocimiento facial, por ejemplo, plantea preocupaciones sobre la privacidad y la vigilancia. ICE ha sido criticado por usar el reconocimiento facial para escanear bases de datos de licencias de conducir, identificando potencialmente a inmigrantes indocumentados sin su conocimiento o consentimiento. Este tipo de vigilancia masiva puede crear un clima de miedo y desconfianza, particularmente dentro de las comunidades de inmigrantes.

Los desarrollos recientes en la ética de la IA están impulsando una mayor transparencia y rendición de cuentas en la toma de decisiones algorítmicas. Los investigadores están desarrollando métodos para detectar y mitigar el sesgo en los algoritmos, y los formuladores de políticas están explorando regulaciones para garantizar que los sistemas de IA sean justos y equitativos. Sin embargo, estos esfuerzos aún se encuentran en sus primeras etapas y siguen existiendo desafíos importantes. El caso de López Belloza sirve como un crudo recordatorio del costo humano de los errores algorítmicos y la urgente necesidad de una mayor supervisión y regulación de la IA en la inmigración.

De cara al futuro, es crucial priorizar la transparencia, la rendición de cuentas y la equidad en el uso de la IA en la inmigración. Esto incluye garantizar que los algoritmos se prueben exhaustivamente para detectar sesgos, que las personas tengan el derecho de impugnar las decisiones algorítmicas y que existan salvaguardias legales para evitar deportaciones injustas. El caso de Any Lucía López Belloza es un llamado a la acción, que nos insta a examinar críticamente el papel de la tecnología en la configuración de la política de inmigración y a garantizar que sirva a la justicia, no a la injusticia.