Les lumières fluorescentes de l'aéroport international Logan de Boston étaient floues tandis qu'Any Lucía López Belloza, une étudiante de première année de 19 ans, serrait son billet d'embarquement. L'excitation bouillonnait en elle ; elle était sur le point de surprendre sa famille au Texas pour Thanksgiving. Mais la joie s'est évaporée lorsque les agents d'immigration l'ont arrêtée, et en moins de 48 heures, Any Lucía s'est retrouvée expulsée vers le Honduras, un pays qu'elle connaissait à peine. L'administration Trump a admis plus tard qu'il s'agissait d'une "erreur", mais l'incident soulève des questions cruciales sur le rôle des algorithmes et des données dans l'application des lois sur l'immigration, et sur le potentiel de biais dans ces systèmes.

Le cas d'Any Lucía met en évidence une préoccupation croissante : la dépendance croissante aux outils basés sur l'IA dans les processus d'immigration. Bien que les spécificités de l'algorithme utilisé dans son cas restent confidentielles, il est probable qu'un système conçu pour identifier les violations potentielles de l'immigration l'ait signalée. Ces systèmes analysent souvent de vastes ensembles de données, notamment l'historique des voyages, l'activité sur les réseaux sociaux et même les données de reconnaissance faciale, afin d'évaluer les risques. L'objectif est de rationaliser le processus, d'identifier les menaces potentielles et d'allouer efficacement les ressources. Cependant, la nature opaque de ces algorithmes, souvent appelés "boîtes noires", rend difficile la compréhension de la manière dont les décisions sont prises et de leur équité.

Le problème fondamental réside dans le potentiel de biais algorithmique. Les systèmes d'IA apprennent à partir de données, et si ces données reflètent les biais sociétaux existants, l'algorithme les perpétuera et même les amplifiera. Par exemple, si un ensemble de données utilisé pour entraîner un algorithme contient des exemples disproportionnés de personnes de certaines origines ethniques signalées pour des violations de l'immigration, l'algorithme peut cibler injustement les personnes de ces mêmes origines à l'avenir. Cela peut entraîner des résultats discriminatoires, même si l'algorithme lui-même n'est pas explicitement conçu pour être biaisé.

"Le biais algorithmique est une préoccupation sérieuse dans tous les domaines où l'IA est utilisée pour prendre des décisions qui affectent la vie des gens", explique le Dr Meredith Whittaker, présidente de l'AI Now Institute, un centre de recherche de premier plan qui examine les implications sociales de l'intelligence artificielle. "Dans le contexte de l'immigration, les enjeux sont incroyablement élevés. Un algorithme biaisé peut entraîner des détentions, des expulsions et des séparations familiales injustifiées."

L'admission d'erreur de l'administration Trump dans le cas d'Any Lucía souligne la faillibilité de ces systèmes. Même avec des algorithmes sophistiqués, des erreurs peuvent se produire, et les conséquences peuvent être désastreuses. Bien que l'administration se soit excusée, elle a simultanément fait valoir que l'erreur ne devrait pas affecter son cas d'immigration, soulignant davantage les complexités et les injustices potentielles inhérentes au système.

L'utilisation de l'IA dans l'application des lois sur l'immigration soulève également des préoccupations en matière de transparence et de responsabilité. Lorsqu'un humain commet une erreur, il existe généralement une procédure d'examen et d'appel. Cependant, lorsqu'un algorithme commet une erreur, il peut être difficile de comprendre pourquoi la décision a été prise et comment la contester. Le manque de transparence rend plus difficile la responsabilisation du système et la garantie qu'il est juste et équitable.

L'Union européenne prend des mesures pour répondre à ces préoccupations avec l'AI Act, une proposition de règlement qui établirait des règles pour le développement et le déploiement des systèmes d'IA, y compris ceux utilisés dans l'immigration. L'Act exigerait que les systèmes d'IA à haut risque soient transparents, responsables et soumis à une surveillance humaine. Cela pourrait servir de modèle à d'autres pays qui cherchent à réglementer l'utilisation de l'IA dans l'application des lois sur l'immigration.

L'expérience d'Any Lucía López Belloza nous rappelle brutalement les pièges potentiels de la dépendance à l'IA dans l'application des lois sur l'immigration. Bien que ces systèmes puissent offrir efficacité et rapidité, ils doivent être soigneusement conçus et surveillés pour garantir l'équité, la transparence et la responsabilité. Alors que l'IA continue d'évoluer, il est essentiel d'avoir des conversations ouvertes et honnêtes sur ses implications pour la société et d'élaborer des politiques qui protègent les droits et la dignité de tous les individus. L'avenir de l'application des lois sur l'immigration dépend de notre capacité à exploiter la puissance de l'IA de manière responsable et éthique.