警察車両の青と赤の点滅灯は、エニ・ルシア・ロペス・ベローサの記憶の中でぼやけていた。テキサスで家族から受けられるはずだった温かい抱擁とは対照的だった。感謝祭の夕食の代わりに、彼女はほとんど記憶のない国、ホンジュラス行きの飛行機に乗せられていた。トランプ政権は後に彼女の強制送還を「間違い」だったと認めた。その一言では、彼女の人生を狂わせた官僚的な悪夢をほとんど言い表せていない。

この一件は、一見すると孤立した事例に見えるが、高度化するAI主導の国境管理の時代において、ますます高まる懸念、すなわちアルゴリズムの偏見の可能性と、人間の監視の低下を浮き彫りにしている。入国管理の執行は急速に進化しており、リスク評価、顔認識、予測型警察活動のためにAIを活用したツールが組み込まれている。推進派は効率性と正確性を喧伝する一方で、批判派は人間の生活に深刻な影響を与える決定を自動化することの危険性を警告している。

バブソン大学の19歳の学生、エニ・ルシア・ロペス・ベローサは、サプライズで帰省する予定だった。しかし、11月20日にボストンの空港に到着した際、彼女は拘束された。翌日、米国に留まり法的措置を受けるよう求める緊急裁判所命令が出されたにもかかわらず、ロペス・ベローサはホンジュラスに強制送還された。政府はその後、手続き上の誤りを認め謝罪したが、この事件は、そのような間違いを防ぐためのセーフガードについて深刻な疑問を投げかけた。

入国管理におけるAIの台頭は、膨大なデータセットでトレーニングされた機械学習アルゴリズムに大きく依存している。これらのアルゴリズムは、パターンを特定し、ビザの滞在期間を超過する可能性のある人物や、セキュリティ上の脅威となる可能性のある人物を特定するなど、潜在的なリスクを予測するように設計されている。しかし、これらのアルゴリズムのトレーニングに使用されるデータは、既存の社会的な偏見を反映していることが多く、差別的な結果につながる。たとえば、過去のデータで、特定の国からの個人のビザ滞在期間超過が不均衡に多い場合、アルゴリズムは、個々の状況に関係なく、その国からの個人をハイリスクとして不当にフラグ付けする可能性がある。

MITのデータ倫理学教授であるエブリン・ヘイズ博士は、「アルゴリズムの偏見は、入国管理の執行において重大な懸念事項です」と説明する。「これらのAIシステムのトレーニングに使用されるデータが既存の偏見を反映している場合、アルゴリズムは単にそれらの偏見を増幅させ、不公平で差別的な結果につながります。」

AI主導の国境管理のもう1つの重要な要素である顔認識技術も課題を抱えている。研究によると、顔認識アルゴリズムは、肌の色が濃い個人を識別する精度が低く、誤認や不当な拘束につながる可能性がある。犯罪が発生する可能性が高い場所を予測しようとする予測型警察活動アルゴリズムの使用も、特定のコミュニティに対する差別的なターゲティングにつながる可能性がある。

これらの技術の展開は、説明責任と透明性に関する根本的な疑問を提起する。AIシステムが間違いを犯した場合、誰が責任を負うのか？個人は、理解できないアルゴリズムによって行われた決定にどのように異議を唱えることができるのか？これらのシステムを取り巻く透明性の欠如は、偏見を特定して修正することを困難にし、不公平な結果のリスクをさらに悪化させる。

ロペス・ベローサの事例は、AI主導の入国管理の執行に対するより厳格な精査と監視の必要性を強調している。テクノロジーは間違いなく効率を向上させることができるが、適正手続きと基本的人権を犠牲にすべきではない。AIが国境管理にますます統合されるにつれて、これらのシステムが公平で、透明性があり、説明責任を果たすことを保証することが重要である。入国管理の執行の将来は、技術革新と個人の自由の保護とのバランスを取ることにかかっている。ロペス・ベローサの事例における「間違い」は、抑制されないアルゴリズムの力の人的コストを痛烈に思い出させるものとなっている。