Les lumières fluorescentes de l'aéroport international Logan de Boston étaient floues tandis qu'Any Lucía López Belloza, une étudiante de première année de 19 ans, serrait son billet d'embarquement. L'excitation bouillonnait en elle ; elle était sur le point de surprendre sa famille au Texas pour Thanksgiving. Mais cette joie s'est évaporée en un instant. Au lieu d'une chaleureuse étreinte, elle a été placée en détention, et en moins de 48 heures, elle était dans un avion non pas pour le Texas, mais pour le Honduras, un pays qu'elle connaissait à peine. L'administration Trump a admis plus tard que cette expulsion était une "erreur", un aveu glaçant qui soulève de profondes questions sur l'intersection de l'application des lois sur l'immigration, de la technologie et des droits de l'homme.

Cette affaire, bien qu'apparemment isolée, souligne une préoccupation croissante : la dépendance croissante aux algorithmes et à l'IA dans les processus d'immigration, souvent avec une transparence et une responsabilité limitées. Bien que le gouvernement ait fait valoir que l'erreur ne devrait pas affecter son dossier d'immigration, l'incident met en évidence le potentiel de biais algorithmiques et les conséquences désastreuses lorsque ces systèmes échouent.

Le calvaire de López Belloza a commencé le 20 novembre. Bien qu'elle ait une ordonnance d'urgence du tribunal ordonnant au gouvernement de la maintenir aux États-Unis, elle a été expulsée. La rapidité et l'efficacité avec lesquelles cela s'est produit, même face à une intervention juridique, suggèrent un système qui privilégie le traitement rapide à la régularité de la procédure. Cette efficacité est souvent présentée comme un avantage des systèmes basés sur l'IA, mais elle peut également masquer des défauts et des biais sous-jacents.

Les outils d'IA spécifiques utilisés dans l'affaire López Belloza restent flous. Cependant, les agences d'application de la loi sur l'immigration utilisent de plus en plus des algorithmes pour l'évaluation des risques, la reconnaissance faciale et la police prédictive. Ces outils analysent de vastes ensembles de données pour identifier les personnes considérées comme une menace ou risquant de violer les lois sur l'immigration. Le problème est que ces ensembles de données reflètent souvent les biais sociétaux existants, ce qui entraîne des résultats discriminatoires. Par exemple, si un algorithme est entraîné sur des données qui ciblent de manière disproportionnée des personnes de certaines origines ethniques, il est probable qu'il perpétue ce biais dans ses prédictions.

"L'IA n'est aussi bonne que les données sur lesquelles elle est entraînée", explique le Dr Meredith Whittaker, chercheuse de premier plan en IA et présidente de l'AI Now Institute. "Si les données reflètent des biais historiques, l'IA amplifiera ces biais, ce qui entraînera des résultats injustes et discriminatoires. Dans le contexte de l'immigration, cela peut avoir des conséquences désastreuses."

La technologie de reconnaissance faciale, un autre outil de plus en plus utilisé dans les aéroports et le contrôle des frontières, est particulièrement sujette aux erreurs, en particulier lorsqu'il s'agit d'identifier des personnes issues de communautés marginalisées. Des études ont montré que ces systèmes sont nettement moins précis lorsqu'il s'agit d'identifier les personnes de couleur, ce qui soulève des inquiétudes quant aux erreurs d'identification et aux détentions injustifiées.

L'utilisation de l'IA dans l'immigration soulève également des préoccupations en matière de transparence et de responsabilité. Les algorithmes utilisés par les agences gouvernementales sont souvent propriétaires, ce qui rend difficile la compréhension de la manière dont les décisions sont prises et la contestation des résultats potentiellement biaisés. Ce manque de transparence compromet la régularité de la procédure et rend plus difficile la responsabilisation de ces systèmes.

"Nous avons besoin de plus de transparence et de surveillance des systèmes d'IA utilisés dans l'application des lois sur l'immigration", affirme Eleanor Powell, analyste principale des politiques à l'Electronic Frontier Foundation. "Les gens ont le droit de comprendre comment ces systèmes prennent des décisions qui affectent leur vie, et ils doivent avoir la possibilité de contester ces décisions."

L'affaire López Belloza sert de rappel brutal des pièges potentiels liés à la dépendance à l'IA dans la prise de décisions à enjeux élevés. Bien que l'IA offre la promesse d'une efficacité et d'une précision accrues, elle comporte également le risque de perpétuer les biais et de saper les droits fondamentaux. Alors que l'IA est de plus en plus intégrée aux processus d'immigration, il est essentiel de privilégier la transparence, la responsabilité et la surveillance humaine afin de garantir que ces systèmes soient utilisés de manière équitable et juste. L'avenir de l'application des lois sur l'immigration dépend de notre capacité à exploiter la puissance de l'IA de manière responsable, en atténuant ses risques et en veillant à ce que la technologie serve l'humanité, et non l'inverse. L'"erreur" dans l'affaire López Belloza devrait être un catalyseur pour une conversation plus large sur les implications éthiques de l'IA dans l'immigration et la nécessité urgente de mettre en place des garanties pour protéger les populations vulnérables.