La surprise de Thanksgiving d'une étudiante s'est transformée en cauchemar lorsqu'elle a été détenue à l'aéroport de Boston et expulsée vers le Honduras, un pays qu'elle n'avait pas vu depuis des années. Any Lucía López Belloza, une étudiante de première année de 19 ans au Babson College, essayait simplement de surprendre sa famille au Texas. Au lieu de cela, elle s'est retrouvée prise dans le réseau complexe de l'application des lois sur l'immigration, un système de plus en plus critiqué pour sa dépendance aux algorithmes et à la prise de décision basée sur les données. L'administration Trump a admis par la suite que l'expulsion était une "erreur", mais l'incident soulève des questions essentielles sur le rôle de la technologie dans l'immigration et le potentiel de biais et d'erreur.

L'affaire met en évidence une préoccupation croissante : l'utilisation de l'intelligence artificielle dans l'application des lois sur l'immigration. Bien que l'IA promette efficacité et objectivité, son application dans des situations à enjeux élevés comme l'expulsion soulève des défis éthiques et pratiques. L'Immigration and Customs Enforcement (ICE) utilise divers outils basés sur l'IA pour des tâches allant de l'identification des dépassements de séjour potentiels à la prédiction des personnes les plus susceptibles de récidiver. Ces outils reposent souvent sur de vastes ensembles de données, notamment l'historique des voyages, les casiers judiciaires et l'activité sur les réseaux sociaux.

L'histoire de López Belloza se déroule dans ce contexte. Après avoir été détenue le 20 novembre, elle a été expulsée malgré une ordonnance d'urgence du tribunal ordonnant au gouvernement de la maintenir aux États-Unis pendant au moins 72 heures. Ce mépris flagrant pour la procédure régulière, aggravé par l'aveu d'erreur, souligne le potentiel de biais algorithmique à exacerber les inégalités existantes au sein du système d'immigration. Même avec les excuses, l'administration a fait valoir que l'erreur ne devrait pas affecter son dossier d'immigration, une position que beaucoup trouvent troublante.

"Le problème avec l'IA dans l'immigration est qu'elle amplifie souvent les biais existants", explique le Dr Sarah Williams, professeure d'éthique des données au MIT. "Si les données utilisées pour entraîner ces algorithmes reflètent des schémas historiques de discrimination, l'IA est susceptible de perpétuer ces schémas. Dans le contexte de l'immigration, cela peut conduire à un ciblage disproportionné de certaines communautés."

L'un des concepts clés de l'IA en jeu ici est l'apprentissage automatique. Les algorithmes sont entraînés sur de grands ensembles de données pour identifier des schémas et faire des prédictions. Cependant, si les données sont biaisées, les prédictions qui en résultent seront également biaisées. Par exemple, si un algorithme est entraîné sur des données qui montrent une corrélation entre certaines nationalités et l'activité criminelle, il peut injustement signaler les personnes de ces nationalités comme présentant des risques plus élevés, quel que soit leur comportement réel.

Les implications pour la société sont considérables. À mesure que l'IA s'intègre davantage dans l'application des lois sur l'immigration, il existe un risque de créer un système à la fois opaque et discriminatoire. Des personnes peuvent se voir refuser l'entrée ou être expulsées sur la base de décisions prises par des algorithmes qu'elles ne peuvent ni comprendre ni contester. Ce manque de transparence compromet les principes fondamentaux de la procédure régulière et de l'équité.

Les récents développements en matière d'éthique de l'IA plaident en faveur d'une plus grande responsabilité et transparence dans la prise de décision algorithmique. Les chercheurs mettent au point des techniques pour détecter et atténuer les biais dans les systèmes d'IA, et les décideurs politiques étudient des réglementations pour garantir que l'IA est utilisée de manière responsable. La loi sur l'IA de l'Union européenne, par exemple, propose des règles strictes pour les applications d'IA à haut risque, y compris celles utilisées dans l'application de la loi et l'immigration.

L'affaire López Belloza sert de rappel brutal du coût humain de l'erreur algorithmique. Bien que l'IA ait le potentiel d'améliorer l'efficacité et la précision de l'application des lois sur l'immigration, elle doit être déployée avec prudence et surveillance. "Nous devons veiller à ce que l'IA soit utilisée pour améliorer, et non pour saper, l'équité et la procédure régulière", soutient le Dr Williams. "Cela exige un engagement en faveur de la transparence, de la responsabilité et une volonté de s'attaquer au potentiel de biais." Alors que l'utilisation de l'IA dans l'immigration continue de se développer, il est essentiel d'avoir une conversation sociétale plus large sur les implications éthiques et la nécessité de mettre en place des garanties pour protéger les droits des individus. L'avenir de l'application des lois sur l'immigration dépend de notre capacité à exploiter la puissance de l'IA de manière responsable et équitable.