警察車両の青と赤の点滅するライトは、エニ・ルシア・ロペス・ベロサの記憶の中でぼやけていた。テキサスにいる家族からの温かい抱擁を期待していた彼女にとって、それは全く対照的な光景だった。感謝祭の夕食の代わりに、彼女はほとんど記憶のない国、ホンジュラス行きの飛行機に乗せられていた。トランプ政権は後に彼女の強制送還を「間違い」だったと認めた。それは、彼女の人生を狂わせた官僚的な悪夢をほとんど言い表せない、身の毛もよだつ言葉だった。

この一件は、一見すると孤立した事例に見えるが、高度化するAI主導の入国管理執行の時代において、ますます高まる懸念を浮き彫りにしている。それは、アルゴリズムの偏見の可能性と、人間の監視の弱体化だ。移民・関税執行局（ICE）は、リスク評価、顔認識、予測型警察活動のために、さまざまなAIツールを利用している。これらのツールは、プロセスを効率化し、セキュリティを強化することを目的としているが、学習に使用されるデータと同じくらい偏りがない。データが既存の社会的な偏見を反映している場合、AIはその偏見を永続させ、さらに増幅させて意思決定を行うことになる。

19歳のバブソン大学の1年生であるロペス・ベロサは、11月20日にボストンの空港で拘束された。翌日、政府に対し、法的手続きのために彼女を米国に留めるよう指示する緊急裁判所命令が出されたにもかかわらず、彼女はホンジュラスに強制送還された。政府による誤りの認容は、このような事件を防ぐために設けられているチェック・アンド・バランスについて、重大な疑問を投げかけている。裁判所命令がどのように見過ごされたのか？彼女を拘束するという最初の決定にAIが関与していたのか？もしそうなら、どのようなデータがその評価に貢献したのか？

「問題は必ずしも技術そのものではなく、その展開方法と、その使用を取り巻く透明性の欠如にある」と、MITのAI倫理学教授であるエブリン・ヘイズ博士は説明する。「これらのアルゴリズムがどのようなデータを使用しているのか、どのように意思決定を行っているのか、そして間違いが発生した場合に誰が責任を負うのかを理解する必要がある。これらのエラーの結果は、個人や家族にとって壊滅的なものになる可能性がある。」

例えば、顔認識技術は、空港や国境検問所でますます使用されている。これらのシステムは、肌の色が濃い個人を識別する精度が著しく低いことが研究で示されており、人種プロファイリングに関する懸念が高まっている。同様に、犯罪データを分析して将来のホットスポットを予測する予測型警察活動アルゴリズムは、マイノリティコミュニティを不均衡に標的にすることで、既存の偏見を強化する可能性がある。

ロペス・ベロサの事例は、入国管理執行におけるAIの使用における、より大きな透明性と説明責任の緊急な必要性を強調している。市民権団体は、潜在的な偏見を特定し、軽減するために、これらのシステムの独立した監査を求めている。彼らはまた、個人の生活に影響を与えるAI主導の決定に異議を唱える権利を個人が確実に持つための、より強力な法的保護を提唱している。

入国管理執行の未来は、間違いなくAIによって形作られるだろう。しかし、テクノロジーは人類に奉仕するものであり、その逆ではないことを忘れてはならない。AIシステムがより強力になり、普及するにつれて、倫理的な考慮事項を優先し、公平性と透明性を確保し、エニ・ルシア・ロペス・ベロサの強制送還のような悲劇が二度と起こらないように、人間の監視を維持することが不可欠だ。トランプ政権が「間違い」と呼んだこの出来事は、抑制のないアルゴリズムの力の人的コストを痛烈に思い出させるものとなる。