La surprise de Thanksgiving d'une étudiante s'est transformée en cauchemar lorsqu'elle a été détenue à l'aéroport de Boston et expulsée vers le Honduras. Any Lucía López Belloza, une étudiante de première année de 19 ans à Babson College, essayait simplement de surprendre sa famille au Texas. Au lieu de cela, elle s'est retrouvée dans un avion à destination d'un pays qu'elle n'avait pas vu depuis des années, tout cela à cause de ce que l'administration Trump a plus tard admis être une « erreur ».

Le cas de López Belloza met en évidence les complexités et les pièges potentiels des systèmes automatisés de plus en plus utilisés dans l'application de la loi sur l'immigration. Bien que le gouvernement se soit excusé pour l'erreur, il a fait valoir que cette erreur ne devrait pas avoir d'incidence sur son dossier d'immigration, soulevant des questions sur la responsabilité et le rôle de la technologie dans la vie humaine.

Le calvaire de López Belloza a commencé le 20 novembre lorsqu'elle a été détenue à l'aéroport de Boston. Malgré une ordonnance d'urgence rendue le lendemain ordonnant au gouvernement de la maintenir aux États-Unis pour des procédures judiciaires, elle a été expulsée vers le Honduras à peine deux jours plus tard. L'incident a suscité l'indignation et alimenté les inquiétudes concernant l'application régulière de la loi et le risque d'erreurs au sein du système d'immigration.

La dépendance croissante à l'égard de l'IA dans le domaine de l'immigration soulève d'importantes questions. La technologie de reconnaissance faciale, par exemple, est déployée dans les aéroports et aux postes frontières pour identifier les individus et signaler les risques potentiels pour la sécurité. Des algorithmes prédictifs sont utilisés pour évaluer les demandes de visa et déterminer quels individus sont les plus susceptibles de dépasser la durée de leur visa ou de constituer une menace. Ces technologies, bien que destinées à améliorer l'efficacité et la sécurité, ne sont pas sans défauts.

« Les systèmes d'IA ne valent que les données sur lesquelles ils sont entraînés », explique la Dre Sarah Miller, professeure d'informatique spécialisée dans l'éthique de l'IA. « Si les données sont biaisées, l'IA perpétuera, voire amplifiera ces biais. Dans le contexte de l'immigration, cela pourrait entraîner des résultats discriminatoires, où certains groupes sont injustement ciblés ou privés de possibilités. »

Le cas López Belloza souligne l'importance de la surveillance humaine dans les systèmes automatisés. Bien que l'IA puisse traiter de grandes quantités de données et identifier des schémas, elle n'a pas la compréhension nuancée et les compétences de pensée critique nécessaires pour prendre des décisions justes et précises dans des situations complexes. « Il doit y avoir un humain dans la boucle pour examiner les recommandations de l'IA et s'assurer qu'elles sont conformes aux principes juridiques et éthiques », soutient l'avocat spécialisé en immigration David Chen. « Sinon, nous risquons de sacrifier les droits individuels et l'application régulière de la loi au nom de l'efficacité. »

L'utilisation de l'IA dans le domaine de l'immigration soulève également des préoccupations en matière de transparence et de responsabilité. Il peut être difficile de comprendre comment un système d'IA est parvenu à une décision particulière, ce qui rend difficile la contestation ou l'appel de cette décision. Ce manque de transparence peut éroder la confiance dans le système et créer un sentiment d'injustice.

Pour l'avenir, il est essentiel de développer des systèmes d'IA qui soient justes, transparents et responsables. Cela nécessite une attention particulière à la qualité des données, à la conception des algorithmes et à la surveillance humaine. Cela nécessite également un dialogue permanent entre les décideurs politiques, les technologues et les organisations de la société civile afin de garantir que l'IA est utilisée d'une manière qui promeut la justice et protège les droits individuels. Le cas d'Any Lucía López Belloza nous rappelle brutalement le coût humain des erreurs technologiques et la nécessité d'une plus grande vigilance à l'ère de l'IA.