警车闪烁的蓝红灯光在安妮·露西亚·洛佩兹·贝洛扎的记忆中变得模糊，与她期待的在德克萨斯州与家人温暖相拥的场景形成了鲜明对比。她没有迎来感恩节晚餐，而是发现自己身处飞往洪都拉斯的飞机上，那是一个她几乎不记得的国家。特朗普政府后来承认她的驱逐是“错误”，这个令人不寒而栗的词语几乎无法概括颠覆她生活的官僚主义噩梦。

这个看似孤立的案件，凸显了在人工智能驱动的移民执法日益精密的时代，一个日益增长的担忧：算法偏见的可能性以及人为监督的削弱。移民和海关执法局 (ICE) 利用各种人工智能工具进行风险评估、面部识别和预测性警务。这些工具虽然旨在简化流程并加强安全性，但其公正性仅取决于训练它们所用的数据。如果数据反映了现有的社会偏见，人工智能将延续甚至放大这些偏见在其决策过程中。

洛佩兹·贝洛扎是一位 19 岁的巴布森学院新生，于 11 月 20 日在波士顿机场被拘留。尽管第二天发布了一项紧急法院命令，指示政府让她留在美国进行法律诉讼，但她还是被驱逐到了洪都拉斯。政府承认错误，引发了关于防止此类事件发生的制衡机制的关键问题。法院命令怎么会被忽视？人工智能是否参与了最初拘留她的决定，如果是，哪些数据促成了该评估？

麻省理工学院人工智能伦理学教授伊芙琳·海耶斯博士解释说：“问题不一定是技术本身，而是它的部署方式以及围绕其使用的缺乏透明度。我们需要了解这些算法正在使用哪些数据，它们是如何做出决定的，以及当错误发生时谁来负责。这些错误的后果对个人和家庭来说可能是毁灭性的。”

例如，面部识别技术越来越多地应用于机场和边境口岸。研究表明，这些系统在识别肤色较深的人时准确率明显较低，引发了对种族歧视的担忧。同样，预测性警务算法通过分析犯罪数据来预测未来的热点地区，可能会通过不成比例地针对少数族裔社区来强化现有的偏见。

洛佩兹·贝洛扎的案件强调了在移民执法中使用人工智能时，迫切需要提高透明度和问责制。民权组织呼吁对这些系统进行独立审计，以识别和减轻潜在的偏见。他们还倡导加强法律保护，以确保个人有权质疑影响他们生活的人工智能驱动的决策。

毫无疑问，移民执法的未来将由人工智能塑造。然而，至关重要的是要记住，技术应该服务于人类，而不是相反。随着人工智能系统变得越来越强大和普遍，我们必须优先考虑伦理因素，确保公平和透明，并保持人为监督，以防止像安妮·露西亚·洛佩兹·贝洛扎被驱逐出境这样的悲剧再次发生。正如特朗普政府所称的“错误”，是对不受约束的算法力量所造成的人力成本的鲜明提醒。