La surprise de Thanksgiving d'une étudiante du Massachusetts s'est transformée en cauchemar lorsqu'elle a été détenue à l'aéroport de Boston et expulsée vers le Honduras. Any Lucía López Belloza, une étudiante de première année de 19 ans au Babson College, essayait simplement de surprendre sa famille au Texas. Au lieu de cela, elle s'est retrouvée prise dans le réseau complexe de l'application des lois sur l'immigration, un système de plus en plus scruté pour sa dépendance aux algorithmes et à la prise de décision basée sur les données. L'administration Trump a admis plus tard que l'expulsion était une « erreur », mais l'incident soulève des questions essentielles sur le rôle de l'IA dans l'immigration et le potentiel de biais et d'erreurs.

L'affaire met en évidence l'utilisation croissante de l'IA dans l'application des lois sur l'immigration. Les algorithmes sont désormais utilisés pour évaluer les demandes de visa, identifier les menaces potentielles à la sécurité et même prédire la probabilité que des personnes dépassent la durée de leur visa. Ces systèmes analysent de grandes quantités de données, notamment l'historique des voyages, l'activité sur les réseaux sociaux et les casiers judiciaires, afin de prendre des décisions qui peuvent avoir des conséquences bouleversantes.

Le calvaire de López Belloza a commencé le 20 novembre lorsqu'elle a été détenue à l'aéroport. Malgré une ordonnance d'urgence du tribunal émise le lendemain, ordonnant au gouvernement de la maintenir aux États-Unis pour des procédures judiciaires, elle a été expulsée vers le Honduras le 22 novembre. L'aveu d'erreur du gouvernement souligne la faillibilité de ces systèmes et le potentiel d'échec de la surveillance humaine.

« L'utilisation de l'IA dans l'immigration est une arme à double tranchant », explique le Dr Sarah Miller, professeure d'informatique spécialisée dans l'éthique de l'IA. « D'une part, elle peut aider à rationaliser les processus et à identifier les véritables menaces à la sécurité. D'autre part, elle peut perpétuer les préjugés existants et conduire à des résultats injustes, en particulier lorsque les données utilisées pour entraîner ces algorithmes reflètent les préjugés de la société. »

L'une des principales préoccupations est le biais algorithmique. Si les données utilisées pour entraîner un système d'IA sont biaisées, le système est susceptible de perpétuer, voire d'amplifier, ces biais. Par exemple, si un algorithme est entraîné sur des données qui associent de manière disproportionnée certaines ethnies à une activité criminelle, il peut être plus susceptible de signaler les personnes de ces ethnies comme des menaces potentielles à la sécurité, quel que soit leur risque réel.

« Nous devons être extrêmement prudents quant aux données que nous fournissons à ces systèmes », déclare le Dr Miller. « Si les données sont erronées, les résultats le seront également. Et dans le contexte de l'immigration, ces erreurs peuvent avoir des conséquences désastreuses pour les individus et les familles. »

L'affaire López Belloza soulève également des questions sur la transparence et la responsabilité. Il est souvent difficile de comprendre comment ces algorithmes parviennent à leurs décisions, ce qui rend difficile leur contestation ou leur appel. Ce manque de transparence peut éroder la confiance dans le système et rendre plus difficile la garantie de l'équité.

Les derniers développements en matière d'éthique de l'IA plaident en faveur d'une plus grande transparence et d'une plus grande responsabilité dans la prise de décision algorithmique. Les chercheurs développent des techniques pour rendre les systèmes d'IA plus explicables, permettant aux utilisateurs de comprendre le raisonnement qui sous-tend leurs décisions. Il existe également un mouvement croissant visant à établir des lignes directrices et des réglementations éthiques pour le développement et le déploiement de systèmes d'IA, en particulier dans les domaines à enjeux élevés comme l'immigration.

Bien que l'administration Trump se soit excusée pour « l'erreur » dans l'expulsion de López Belloza, elle a fait valoir que l'erreur ne devrait pas affecter son dossier d'immigration. Cette position met en évidence le débat en cours sur le rôle de l'erreur humaine et du biais algorithmique dans l'application des lois sur l'immigration. À mesure que l'IA s'intègre de plus en plus au système, il est essentiel de veiller à ce que ces technologies soient utilisées de manière responsable et éthique, avec des garanties appropriées pour protéger les droits individuels et prévenir les résultats injustes. L'affaire d'Any Lucía López Belloza nous rappelle brutalement le coût humain des erreurs algorithmiques et la nécessité urgente d'une plus grande surveillance et d'une plus grande responsabilité dans l'utilisation de l'IA dans l'immigration.