Les gyrophares bleus et rouges de la voiture de police se sont estompés dans la mémoire d'Any Lucía López Belloza, contrastant fortement avec l'étreinte chaleureuse qu'elle attendait de sa famille au Texas. Au lieu du dîner de Thanksgiving, elle s'est retrouvée dans un avion pour le Honduras, un pays dont elle se souvenait à peine. L'administration Trump a admis plus tard que son expulsion était une "erreur", un mot glaçant qui résume à peine le cauchemar bureaucratique qui a bouleversé sa vie.

Cette affaire, bien qu'apparemment isolée, met en évidence une préoccupation croissante à l'ère de l'application de la loi sur l'immigration de plus en plus sophistiquée, basée sur l'IA : le potentiel de biais algorithmiques et l'érosion de la surveillance humaine. L'Immigration and Customs Enforcement (ICE) utilise divers outils d'IA pour l'évaluation des risques, la reconnaissance faciale et la police prédictive. Ces outils, bien que destinés à rationaliser les processus et à renforcer la sécurité, ne sont aussi impartiaux que les données sur lesquelles ils sont formés. Si les données reflètent les préjugés sociétaux existants, l'IA les perpétuera, voire les amplifiera, dans sa prise de décision.

López Belloza, une étudiante de première année de 19 ans au Babson College, a été arrêtée à l'aéroport de Boston le 20 novembre. Malgré une ordonnance d'urgence du tribunal émise le lendemain, demandant au gouvernement de la maintenir aux États-Unis pour des procédures judiciaires, elle a été expulsée vers le Honduras. L'aveu d'erreur du gouvernement soulève des questions essentielles sur les freins et contrepoids en place pour prévenir de tels incidents. Comment une ordonnance du tribunal a-t-elle pu être négligée ? L'IA a-t-elle été impliquée dans la décision initiale de la détenir, et si oui, quelles données ont contribué à cette évaluation ?

"Le problème n'est pas nécessairement la technologie elle-même, mais la façon dont elle est déployée et le manque de transparence qui entoure son utilisation", explique le Dr Evelyn Hayes, professeure d'éthique de l'IA au MIT. "Nous devons comprendre quelles données ces algorithmes utilisent, comment ils prennent des décisions et qui est responsable lorsque des erreurs se produisent. Les conséquences de ces erreurs peuvent être dévastatrices pour les individus et les familles."

La technologie de reconnaissance faciale, par exemple, est de plus en plus utilisée dans les aéroports et aux postes frontières. Des études ont montré que ces systèmes sont nettement moins précis dans l'identification des personnes ayant un teint de peau plus foncé, ce qui soulève des inquiétudes quant au profilage racial. De même, les algorithmes de police prédictive, qui analysent les données sur la criminalité pour prévoir les futurs points chauds, peuvent renforcer les préjugés existants en ciblant de manière disproportionnée les communautés minoritaires.

L'affaire López Belloza souligne le besoin urgent d'une plus grande transparence et d'une plus grande responsabilité dans l'utilisation de l'IA dans l'application de la loi sur l'immigration. Les organisations de défense des droits civiques demandent des audits indépendants de ces systèmes afin d'identifier et d'atténuer les biais potentiels. Elles préconisent également des protections juridiques plus fortes pour garantir que les individus aient le droit de contester les décisions prises par l'IA qui affectent leur vie.

L'avenir de l'application de la loi sur l'immigration sera sans aucun doute façonné par l'IA. Cependant, il est essentiel de se rappeler que la technologie doit servir l'humanité, et non l'inverse. À mesure que les systèmes d'IA deviennent plus puissants et plus omniprésents, il est impératif que nous accordions la priorité aux considérations éthiques, que nous garantissions l'équité et la transparence et que nous maintenions la surveillance humaine afin d'éviter que des tragédies comme l'expulsion d'Any Lucía López Belloza ne se reproduisent. L'"erreur", comme l'a appelée l'administration Trump, nous rappelle brutalement le coût humain du pouvoir algorithmique incontrôlé.