ボストン・ローガン国際空港の蛍光灯がぼやける中、19歳の大学新入生、アニー・ルシア・ロペス・ベロサは搭乗券を握りしめていた。感謝祭にテキサスにいる家族を驚かせようと、胸を高鳴らせていた。しかし、その喜びは一瞬にして消え去った。温かい抱擁の代わりに、彼女は拘留され、48時間以内にテキサスではなく、ほとんど知らない国ホンジュラス行きの飛行機に乗せられた。トランプ政権は後にこの強制送還を「間違い」と認め、入国管理、テクノロジー、人権の交差点について深刻な疑問を投げかける、身の毛もよだつような告白となった。

この事例は、一見すると孤立しているように見えるが、透明性と説明責任が不十分なまま、入国管理プロセスにおけるアルゴリズムとAIへの依存度が高まっていることへの懸念の高まりを浮き彫りにしている。政府はこの誤りが彼女の入国管理事件に影響を与えるべきではないと主張したが、この事件はアルゴリズムの偏見の可能性と、これらのシステムが失敗した場合の壊滅的な結果を浮き彫りにしている。

ロペス・ベロサの苦難は11月20日に始まった。政府に彼女を米国に留めておくよう指示する緊急裁判所命令があったにもかかわらず、彼女は強制送還された。法的介入があったにもかかわらず、これが行われたスピードと効率は、適正手続きよりも迅速な処理を優先するシステムを示唆している。この効率は、AI駆動型システムの利点としてしばしば喧伝されるが、根底にある欠陥や偏見を隠蔽する可能性もある。

ロペス・ベロサの事例で使用された特定のAIツールは不明なままである。しかし、入国管理機関は、リスク評価、顔認識、予測型警察活動にアルゴリズムを使用する頻度を高めている。これらのツールは、膨大なデータセットを分析して、脅威をもたらす、または入国管理法に違反するリスクがあると見なされる個人を特定する。問題は、これらのデータセットが既存の社会的な偏見を反映していることが多く、差別的な結果につながるということだ。たとえば、アルゴリズムが特定の民族的背景を持つ個人を不均衡にターゲットとするデータに基づいてトレーニングされている場合、その予測においてその偏見を永続させる可能性が高い。

「AIは、トレーニングに使用されるデータと同じくらい優れている」と、主要なAI研究者であり、AI Now Instituteの所長であるメレディス・ウィテカー博士は説明する。「データが過去の偏見を反映している場合、AIはその偏見を増幅し、不公平で差別的な結果につながる。入国管理の文脈では、これは壊滅的な結果をもたらす可能性がある。」

空港や国境管理でますます使用されている別のツールである顔認識技術は、特に疎外されたコミュニティの個人を識別する場合、エラーが発生しやすい。調査によると、これらのシステムは有色人種を識別する場合、精度が大幅に低く、誤認や不当な拘留に関する懸念が高まっている。

入国管理におけるAIの使用は、透明性と説明責任に関する懸念も引き起こす。政府機関が使用するアルゴリズムは、多くの場合、専有であるため、意思決定の方法を理解したり、潜在的に偏った結果に異議を唱えたりすることが困難になっている。この透明性の欠如は、適正手続きを損ない、これらのシステムに責任を負わせることを困難にする。

「入国管理の執行で使用されるAIシステムの透明性と監視を強化する必要がある」と、電子フロンティア財団の上級政策アナリストであるエレノア・パウエルは主張する。「人々は、これらのシステムが自分の生活に影響を与える意思決定をどのように行っているかを理解する権利があり、それらの決定に異議を唱える機会が必要だ。」

ロペス・ベロサの事例は、リスクの高い意思決定においてAIに依存することの潜在的な落とし穴を痛烈に思い出させるものとなる。AIは効率と精度を高めるという約束を提供する一方で、偏見を永続させ、基本的人権を損なうリスクも伴う。AIが入国管理プロセスにますます統合されるにつれて、これらのシステムが公正かつ正当に使用されるように、透明性、説明責任、人間の監視を優先することが重要だ。入国管理の将来は、AIの力を責任を持って活用し、そのリスクを軽減し、テクノロジーが人類に奉仕し、その逆ではないことを保証する能力にかかっている。ロペス・ベロサの事例における「間違い」は、入国管理におけるAIの倫理的影響と、脆弱な人々を保護するための緊急の保護措置の必要性について、より広範な議論のきっかけとなるはずだ。