カトリックの司祭でありポッドキャスターでもあるマイク・シュミッツ神父は11月、120万人以上の登録者がいる自身のYouTubeチャンネルで、人工知能ディープフェイクが自分になりすまし、信者を騙そうとしていることを告知しました。シュミッツ神父はフォロワーに対し、「彼の口から出てくる言葉を常に信用できるとは限らない」と警告しました。なぜなら、それが本当に彼の口や言葉ではない場合もあるからです。

ディープフェイクは、シュミッツ神父のデジタルで捏造されたバージョンを使い、リンクをクリックすることと引き換えに祈りや祝福を求めるものでした。ある例では、偽のシュミッツ神父が、背後に砂時計が迫る中、視聴者に対し「祈りを送る場所はすでに残り少なくなっているので、迅速に行動してください。次の旅行は4か月後になります」と促しました。ミネソタ州ダルースを拠点とする本物のシュミッツ神父は、公共サービス発表の中でAIが生成したなりすましの例を挙げ、声の微妙なロボットのような質を強調しました。

ディープフェイクとは、既存の画像や動画に写っている人物を、人工知能を使って別の人に置き換えた合成メディアのことです。これらのAIが生成した偽造品はますます高度化しており、一般の人が本物のコンテンツと区別することが難しくなっています。この技術は、機械学習アルゴリズム、特にディープラーニングを利用して、人の表情、声、仕草を分析し、複製します。これにより、悪意のある者が、詐欺、偽情報キャンペーン、なりすましなど、さまざまな欺瞞的な目的のために、説得力のある偽の動画や音声録音を作成することが可能になります。

ディープフェイク技術の台頭は、デジタルメディアに対する信頼を損ない、操作の可能性に対する懸念を高め、社会に重大な課題を突きつけています。専門家は、ディープフェイク作成ツールの入手が容易になることで、脆弱な人々を標的とした詐欺が蔓延する可能性があると警告しています。

シュミッツ神父は、人々が本物と偽物を見分けることの難しさを認めました。「私はそれらを見て『それは馬鹿げている、私は絶対にそんなことは言わない』と言うことができます」とシュミッツ神父は言いました。「しかし、人々は必ずしも見分けることができません。それは問題です。」

法執行機関やテクノロジー企業は、ディープフェイクを検出し、対抗するための方法を開発するために取り組んでいます。これらの取り組みには、合成メディアの微妙な矛盾を特定できるアルゴリズムの作成や、ディープフェイクに関連するリスクについて一般の人々を教育することが含まれます。