Le rêve d'une surprise de Thanksgiving s'est transformé en cauchemar pour Any Lucía López Belloza, 19 ans, étudiante de première année à Babson College, lorsqu'elle a été détenue à l'aéroport de Boston et expulsée vers le Honduras. L'administration Trump a par la suite admis que l'expulsion était une "erreur", une illustration frappante des complexités et des pièges potentiels du système d'immigration américain. Mais que se passe-t-il lorsque des algorithmes, alimentés par l'intelligence artificielle, sont de plus en plus impliqués dans ces décisions cruciales ?

Le cas de López Belloza met en évidence une préoccupation croissante : le rôle de l'IA dans l'application des lois sur l'immigration. Bien que les détails de l'implication de l'IA dans son cas restent flous, la tendance générale indique une dépendance accrue aux algorithmes pour des tâches allant de l'évaluation des risques à l'identification des violations potentielles de l'immigration. Ces algorithmes, entraînés sur de vastes ensembles de données, sont conçus pour identifier des schémas et prédire des résultats. Cependant, ils ne sont pas infaillibles.

Les systèmes d'IA ne valent que les données sur lesquelles ils sont entraînés. Si les données reflètent des biais existants, l'IA perpétuera et amplifiera même ces biais. Cela peut entraîner des résultats discriminatoires, en particulier pour les communautés marginalisées. Dans le contexte de l'immigration, cela pourrait signifier que des personnes originaires de certains pays ou présentant des caractéristiques démographiques spécifiques sont injustement signalées comme présentant un risque élevé, ce qui entraîne un examen accru et une expulsion potentielle.

"Le biais algorithmique est une préoccupation importante dans de nombreux domaines, et l'immigration ne fait pas exception", explique le Dr Sarah Miller, professeure d'éthique des données au MIT. "Ces systèmes peuvent encoder par inadvertance des biais sociétaux, conduisant à des résultats injustes ou discriminatoires. La transparence et la responsabilité sont essentielles pour garantir que l'IA est utilisée de manière responsable dans l'application des lois sur l'immigration."

L'utilisation de l'IA dans l'immigration soulève également des questions sur la régularité de la procédure et la transparence. Les individus peuvent ne pas savoir pourquoi ils ont été signalés par un algorithme, ce qui rend difficile la contestation de la décision. Ce manque de transparence peut éroder la confiance dans le système et porter atteinte aux droits fondamentaux.

L'aveu d'erreur de l'administration Trump dans le cas de López Belloza souligne le coût humain de ces défaillances systémiques. Bien que l'administration se soit excusée, elle a simultanément fait valoir que l'erreur ne devrait pas affecter son dossier d'immigration, soulevant d'autres questions sur l'engagement du gouvernement à rectifier la situation.

L'incident met également en évidence les limites du recours exclusif aux systèmes automatisés pour la prise de décision. La surveillance humaine et la pensée critique sont essentielles pour garantir que les algorithmes sont utilisés de manière éthique et équitable. À mesure que l'IA devient plus répandue dans l'application des lois sur l'immigration, il est essentiel d'établir des lignes directrices et des réglementations claires pour prévenir les biais, protéger la régularité de la procédure et garantir la responsabilité.

Pour l'avenir, le développement de l'"IA explicable" (XAI) pourrait offrir une solution potentielle. La XAI vise à rendre la prise de décision de l'IA plus transparente et compréhensible, permettant aux individus de voir pourquoi un algorithme a pris une décision particulière. Cela pourrait aider à identifier et à corriger les biais, ainsi qu'à fournir aux individus les informations dont ils ont besoin pour contester les résultats injustes.

Le cas d'Any Lucía López Belloza sert de mise en garde, nous rappelant que la technologie, bien que puissante, ne remplace pas le jugement humain et les considérations éthiques. Alors que nous dépendons de plus en plus de l'IA dans l'application des lois sur l'immigration, il est impératif que nous accordions la priorité à l'équité, à la transparence et à la responsabilité pour garantir que le système serve la justice pour tous.