El sacerdote católico y podcaster Padre Mike Schmitz informó a su congregación de YouTube, de más de 1.2 millones de suscriptores, en noviembre que deepfakes de inteligencia artificial lo estaban suplantando en un intento de estafarlos. Schmitz advirtió a sus seguidores que "no siempre podían confiar en las palabras que salían de su boca", porque a veces no eran realmente su boca o sus palabras.

Los deepfakes presentaban una versión fabricada digitalmente de Schmitz solicitando oraciones y bendiciones a cambio de hacer clic en un enlace. En un caso, el falso Schmitz, con un reloj de arena que se cernía detrás de él, instó a los espectadores a "actuar rápidamente, porque los lugares para enviar oraciones ya se están agotando", dijo otro falso Schmitz con un reloj de arena que se cernía detrás de él. "Y el próximo viaje solo tendrá lugar dentro de cuatro meses". El verdadero Schmitz, con sede en Duluth, Minnesota, incluyó ejemplos de las suplantaciones generadas por IA en su anuncio de servicio público, destacando la sutil cualidad robótica de la voz.

Los deepfakes son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona utilizando inteligencia artificial. Estas falsificaciones generadas por IA se han vuelto cada vez más sofisticadas, lo que dificulta que la persona promedio las distinga del contenido auténtico. La tecnología se basa en algoritmos de aprendizaje automático, específicamente el aprendizaje profundo, para analizar y replicar las expresiones faciales, la voz y los gestos de una persona. Esto permite a los actores maliciosos crear videos y grabaciones de audio falsos convincentes para diversos fines engañosos, incluido el fraude, las campañas de desinformación y el robo de identidad.

El auge de la tecnología deepfake plantea un desafío importante para la sociedad, erosionando la confianza en los medios digitales y generando preocupación sobre el potencial de manipulación. Los expertos advierten que la creciente accesibilidad de las herramientas de creación de deepfakes podría conducir a una proliferación de estafas dirigidas a poblaciones vulnerables.

Schmitz reconoció la dificultad que tiene la gente para discernir lo real de lo falso. "Puedo mirarlos y decir 'Eso es ridículo, nunca diría eso'", dijo Schmitz. "Pero la gente no necesariamente puede distinguirlo. Ese es un problema".

Las agencias de aplicación de la ley y las empresas de tecnología están trabajando para desarrollar métodos para detectar y combatir los deepfakes. Estos esfuerzos incluyen la creación de algoritmos que puedan identificar inconsistencias sutiles en los medios sintéticos y la educación del público sobre los riesgos asociados con los deepfakes.