感謝祭のサプライズは、19歳の大学新入生、ルシア・ロペス・ベロサにとって悪夢に変わった。テキサスで家族との心温まる再会となるはずだったものが、ボストンの空港で拘束され、幼少期以来訪れていなかったホンジュラスに強制送還されるという、悲惨な試練となった。トランプ政権は後にこの強制送還を「間違い」と認めたが、この事件は、入国管理の執行と、複雑なシステムにおけるエラーの可能性について、重要な疑問を提起している。

この事例は、入国管理におけるアルゴリズムとAIへの依存度が高まっていることを浮き彫りにしている。顔認識技術、予測型警察アルゴリズム、自動リスク評価ツールが、個人を特定し追跡するためにますます使用されている。これらの技術は効率性と正確性を約束する一方で、万能ではない。ロペス・ベロサの事例では、この「間違い」は、おそらく欠陥のあるデータ、アルゴリズムの偏り、またはAIの出力を解釈する際の人的エラーに起因する、システムの故障を示唆している。

入国管理の執行におけるAIの使用は、諸刃の剣である。一方では、当局が大量のデータを処理し、潜在的な脅威を特定し、リソースをより効果的に割り当てるのに役立つ。他方では、適正手続き、透明性、説明責任に関する懸念が高まる。アルゴリズムは、トレーニングに使用されるデータと同じくらい優れているに過ぎず、そのデータが既存の偏りを反映している場合、AIはその偏りを永続させ、さらに増幅させる。これにより、特定の民族または人種グループを不当に標的にするなど、差別的な結果につながる可能性がある。

「AIシステムは中立的な調停者ではない」と、AI倫理を専門とするコンピュータサイエンスのサラ・ミラー教授は説明する。「それらは、作成者とトレーニングに使用されるデータの価値観と偏りを反映している。慎重な監視と規制がなければ、これらのシステムは簡単に差別の道具になり得る。」

ロペス・ベロサの事例は、入国管理の執行におけるAIの使用において、より高い透明性と説明責任の必要性を強調している。個人は、これらのシステムが自分の人生に関する意思決定にどのように使用されているかを理解し、不正確または偏った情報に基づいていると思われる場合は、それらの決定に異議を唱える権利を持つべきである。

さらに、この事件は、自動化されたシステムにおける人間の監視の役割について、より広範な疑問を提起している。最も洗練されたAIシステムでさえ完璧ではなく、その出力を解釈し、最終的な意思決定を行うには、人間の判断が必要である。ロペス・ベロサの事例では、人間の監視が失敗し、彼女の不当な強制送還につながったようである。

入国管理の執行におけるAI主導のエラーの影響は、個々の事例にとどまらない。それらは、システムに対する国民の信頼を損ない、移民コミュニティ内に恐怖と不確実性を生み出し、公平性と適正手続きの原則を損なう可能性がある。

AI倫理と規制における最近の進展は、これらの課題に対処するためのいくつかの希望を提供している。研究者は、アルゴリズムの偏りを検出し軽減するための技術を開発しており、政策立案者は、高リスクの意思決定の状況におけるAIの使用を規制する方法を模索している。たとえば、欧州連合は、法執行機関や入国管理などの分野におけるAIの使用に厳格な要件を課す包括的なAI法を検討している。

ロペス・ベロサの事例は、入国管理の執行においてAIに過度に依存することの潜在的な落とし穴を痛烈に思い出させるものとなる。これらの技術は、複雑なシステムを管理するための貴重なツールを提供できる一方で、個人の権利を保護し、差別的な結果を防ぐための適切な保護措置を講じて、責任を持って倫理的に使用する必要がある。入国管理の執行の将来は、AIと人間の判断の組み合わせになる可能性が高いが、公平性と正確性を確保するためには、人間の監視がプロセスの中心的な要素であり続けることが重要である。