Une surprise de Thanksgiving s'est transformée en cauchemar pour Lucía López Belloza, une étudiante de première année de 19 ans. Ce qui aurait dû être une joyeuse réunion avec sa famille au Texas s'est transformé en une épreuve pénible lorsqu'elle a été détenue à l'aéroport de Boston et rapidement expulsée vers le Honduras. L'administration Trump a depuis admis que l'expulsion était une "erreur", mais l'affaire soulève des questions essentielles sur le rôle de la technologie, en particulier de l'intelligence artificielle, dans l'application des lois sur l'immigration et sur le risque que les biais algorithmiques aient un impact sur la vie humaine.

L'incident s'est déroulé en novembre lorsque López Belloza, étudiante au Babson College, a tenté de rentrer chez elle pour les vacances. Malgré une ordonnance d'urgence du tribunal ordonnant au gouvernement de suspendre son expulsion, elle a été envoyée au Honduras dans les deux jours. L'aveu d'erreur de l'administration met en évidence une préoccupation croissante : la dépendance accrue à l'égard des systèmes basés sur l'IA dans les processus d'immigration, souvent avec une transparence et une responsabilité limitées.

L'IA est déployée dans divers aspects de l'application des lois sur l'immigration, de la surveillance des frontières et de l'évaluation des risques à l'identification des personnes à expulser. Ces systèmes analysent de vastes ensembles de données, notamment l'historique des voyages, l'activité sur les médias sociaux et les casiers judiciaires, afin de prédire la probabilité qu'une personne enfreigne les lois sur l'immigration. Si les partisans affirment que l'IA améliore l'efficacité et la précision, les critiques mettent en garde contre le risque de biais et de discrimination.

"Les biais algorithmiques sont une préoccupation importante", explique le Dr Sarah Miller, professeure d'éthique des données au MIT. "Les systèmes d'IA sont entraînés sur des données qui reflètent souvent les biais sociétaux existants. Si les données utilisées pour entraîner un système d'IA pour l'application des lois sur l'immigration contiennent des informations biaisées, le système est susceptible de perpétuer, voire d'amplifier ces biais, ce qui entraînera des résultats injustes ou discriminatoires."

Dans le cas de López Belloza, on ne sait pas quels facteurs spécifiques ont conduit à sa détention et à son expulsion. Cependant, l'incident souligne le risque d'erreurs et le manque de contrôle humain dans les processus basés sur l'IA. La rapidité avec laquelle son expulsion s'est produite, malgré l'ordonnance du tribunal, suggère un système qui a privilégié l'efficacité au détriment d'une procédure régulière.

L'utilisation de l'IA dans l'immigration soulève également des préoccupations en matière de transparence et d'explicabilité. De nombreux systèmes d'IA fonctionnent comme des "boîtes noires", ce qui rend difficile la compréhension de la manière dont ils parviennent à leurs décisions. Ce manque de transparence rend difficile l'identification et la correction des erreurs, et il mine la confiance du public dans l'équité du système.

"Les gens ont le droit de comprendre pourquoi ils sont ciblés par un système d'IA", déclare Maria Rodriguez, une avocate spécialisée dans l'immigration basée à Boston. "Sans transparence, il est impossible de contester les décisions du système ou de le tenir responsable de ses erreurs."

L'affaire López Belloza n'est pas un incident isolé. Les signalements de détentions et d'expulsions injustifiées liées à des systèmes basés sur l'IA sont en augmentation. Alors que l'IA est de plus en plus intégrée à l'application des lois sur l'immigration, il est essentiel de traiter les implications éthiques et juridiques. Cela implique de s'assurer que les systèmes d'IA sont transparents, responsables et exempts de biais. Cela nécessite également un contrôle humain rigoureux et des protections de procédure régulière pour prévenir les erreurs et protéger les droits des individus.

L'aveu d'erreur de l'administration Trump dans l'affaire López Belloza est un pas dans la bonne direction. Cependant, ce n'est pas suffisant. Une refonte fondamentale du rôle de l'IA dans l'application des lois sur l'immigration est nécessaire pour garantir que la technologie serve la justice, et non l'injustice. L'avenir de l'application des lois sur l'immigration doit donner la priorité à l'équité, à la transparence et à la dignité humaine, tout en tirant parti du potentiel de l'intelligence artificielle.