Any Lucía López Belloza, une étudiante de première année de 19 ans, envisageait des retrouvailles chaleureuses pour Thanksgiving. Au lieu de cela, elle s'est retrouvée dans un avion pour le Honduras, un pays qu'elle n'avait pas vu depuis des années, détenue par les services d'immigration malgré une ordonnance d'urgence du tribunal. L'administration Trump a admis plus tard que son expulsion était une "erreur", un rappel brutal des complexités et des pièges potentiels des systèmes de contrôle de l'immigration de plus en plus automatisés.

Le cas de López Belloza met en évidence une préoccupation croissante : le rôle des algorithmes et de l'intelligence artificielle dans les décisions en matière d'immigration. Bien que l'IA promette efficacité et objectivité, son application dans des scénarios à enjeux élevés comme l'expulsion soulève de sérieuses questions sur l'équité, la responsabilité et le potentiel de biais.

López Belloza, étudiante au Babson College, a été détenue à l'aéroport de Boston en novembre alors qu'elle tentait de se rendre au Texas par avion pour surprendre sa famille. Malgré l'émigration de sa famille du Honduras vers les États-Unis et son inscription dans une université américaine, elle a été rapidement expulsée. L'aveu d'erreur du gouvernement a été fait devant le tribunal, mais ils ont simultanément fait valoir que cette erreur ne devrait pas avoir d'incidence sur son dossier d'immigration global. Cette position souligne une tension : reconnaître une erreur tout en minimisant ses conséquences.

L'utilisation de l'IA dans le contrôle de l'immigration est multiforme. Les algorithmes sont utilisés pour analyser les demandes de visa, identifier les menaces potentielles à la sécurité et même prédire la probabilité qu'une personne dépasse la durée de son visa. La technologie de reconnaissance faciale est de plus en plus déployée dans les aéroports et aux postes frontières. Ces technologies sont souvent présentées comme des outils permettant de rationaliser les processus et d'améliorer la sécurité. Cependant, les critiques soutiennent qu'elles peuvent perpétuer les préjugés existants et conduire à des résultats injustes.

"Les systèmes d'IA ne valent que les données sur lesquelles ils sont entraînés", explique le Dr Sarah Miller, professeure d'informatique spécialisée dans l'éthique de l'IA. "Si les données reflètent des biais historiques, l'IA amplifiera ces biais. Dans le contexte de l'immigration, cela pourrait signifier que des personnes de certains pays ou groupes ethniques sont injustement ciblées."

L'"erreur" dans le cas de López Belloza soulève le spectre des biais algorithmiques. Bien que les raisons spécifiques de sa détention et de son expulsion restent floues, l'incident souligne le potentiel d'erreurs et le manque de transparence dans les processus décisionnels automatisés. Il met également en évidence les difficultés liées à la contestation des décisions prises par les systèmes d'IA. Comment une personne peut-elle contester une décision lorsque la logique sous-jacente est opaque ou inaccessible ?

Les implications pour la société sont profondes. À mesure que l'IA s'intègre plus profondément dans le contrôle de l'immigration, le risque de détentions et d'expulsions injustifiées augmente. Le manque de transparence et de responsabilité de ces systèmes érode la confiance dans le gouvernement et compromet les principes d'une procédure régulière.

Les récents développements en matière d'éthique et de réglementation de l'IA offrent un certain espoir. Les chercheurs mettent au point des techniques pour détecter et atténuer les biais dans les algorithmes. Des organisations comme l'AI Now Institute plaident pour une plus grande transparence et responsabilité dans l'utilisation de l'IA au sein du gouvernement. La proposition de loi de l'Union européenne sur l'IA vise à réglementer les systèmes d'IA à haut risque, y compris ceux utilisés dans le domaine de l'immigration.

Cependant, il reste encore beaucoup à faire. Le cas d'Any Lucía López Belloza sert de mise en garde, nous rappelant que l'IA n'est pas un outil neutre. C'est une technologie qui reflète les valeurs et les préjugés de ses créateurs. Alors que nous nous appuyons de plus en plus sur l'IA pour prendre des décisions essentielles concernant la vie des gens, nous devons veiller à ce que ces systèmes soient équitables, transparents et responsables. Sinon, nous risquons de créer un avenir où les erreurs comme celle de López Belloza deviendront la norme, et non l'exception.