Las luces azules y rojas parpadeantes del coche de policía se difuminaron en la memoria de Any Lucía López Belloza, un marcado contraste con el cálido abrazo que anticipaba de su familia en Texas. En lugar de la cena de Acción de Gracias, se encontró en un avión a Honduras, un país que apenas recordaba. La administración Trump admitió más tarde que su deportación fue un "error", una palabra escalofriante que apenas resume la pesadilla burocrática que trastornó su vida.

Este caso, aunque aparentemente aislado, pone de relieve una creciente preocupación en la era de la aplicación de la ley de inmigración impulsada por la IA, cada vez más sofisticada: el potencial de sesgo algorítmico y la erosión de la supervisión humana. El Servicio de Inmigración y Control de Aduanas (ICE) utiliza diversas herramientas de IA para la evaluación de riesgos, el reconocimiento facial y la vigilancia predictiva. Estas herramientas, aunque pretenden agilizar los procesos y mejorar la seguridad, son tan imparciales como los datos con los que se entrenan. Si los datos reflejan los sesgos sociales existentes, la IA perpetuará, e incluso amplificará, esos sesgos en su toma de decisiones.

López Belloza, una estudiante de primer año de 19 años de Babson College, fue detenida en el aeropuerto de Boston el 20 de noviembre. A pesar de una orden judicial de emergencia emitida al día siguiente que instruía al gobierno a mantenerla en los EE. UU. para procedimientos legales, fue deportada a Honduras. La admisión de error por parte del gobierno plantea preguntas críticas sobre los controles y equilibrios establecidos para prevenir tales incidentes. ¿Cómo pudo pasarse por alto una orden judicial? ¿Estuvo involucrada la IA en la decisión inicial de detenerla y, de ser así, qué datos contribuyeron a esa evaluación?

"El problema no es necesariamente la tecnología en sí, sino la forma en que se implementa y la falta de transparencia en torno a su uso", explica la Dra. Evelyn Hayes, profesora de ética de la IA en el MIT. "Necesitamos entender qué datos están utilizando estos algoritmos, cómo están tomando decisiones y quién es responsable cuando ocurren errores. Las consecuencias de estos errores pueden ser devastadoras para las personas y las familias".

La tecnología de reconocimiento facial, por ejemplo, se utiliza cada vez más en aeropuertos y cruces fronterizos. Los estudios han demostrado que estos sistemas son significativamente menos precisos en la identificación de personas con tonos de piel más oscuros, lo que genera preocupación por la discriminación racial. Del mismo modo, los algoritmos de vigilancia predictiva, que analizan los datos de delincuencia para pronosticar futuros puntos críticos, pueden reforzar los sesgos existentes al dirigirse de manera desproporcionada a las comunidades minoritarias.

El caso de López Belloza subraya la urgente necesidad de una mayor transparencia y rendición de cuentas en el uso de la IA en la aplicación de la ley de inmigración. Las organizaciones de derechos civiles están pidiendo auditorías independientes de estos sistemas para identificar y mitigar los posibles sesgos. También abogan por protecciones legales más sólidas para garantizar que las personas tengan derecho a impugnar las decisiones impulsadas por la IA que afecten sus vidas.

El futuro de la aplicación de la ley de inmigración sin duda estará determinado por la IA. Sin embargo, es crucial recordar que la tecnología debe servir a la humanidad, no al revés. A medida que los sistemas de IA se vuelven más poderosos y generalizados, es imperativo que prioricemos las consideraciones éticas, garanticemos la equidad y la transparencia, y mantengamos la supervisión humana para evitar que tragedias como la deportación de Any Lucía López Belloza vuelvan a ocurrir. El "error", como lo llamó la administración Trump, sirve como un crudo recordatorio del costo humano del poder algorítmico desenfrenado.