한 음식 배달 앱의 사기 행위를 주장하는 바이럴 레딧 게시물이 AI로 생성된 것으로 밝혀지면서 허위 정보 확산과 기술 산업에 미칠 잠재적 영향에 대한 우려가 커지고 있다. 내부 고발자가 작성했다고 알려진 이 게시물은 회사가 운전자와 사용자를 착취하는 방법에 대해 자세히 설명하며 레딧에서 87,000개 이상의 추천과 X에서 3,680만 조회수와 함께 208,000개의 좋아요를 받으며 상당한 관심을 끌었다.

해당 사용자는 술에 취한 채 도서관 공용 Wi-Fi에 접속한 불만을 품은 직원이라고 주장하며 회사가 법적 허점을 이용하여 운전자의 팁과 임금을 훔치고 있다고 주장했다. 이러한 주장은 과거 음식 배달 서비스에 대한 유사한 혐의 사례를 고려할 때 많은 사람들에게 공감을 얻었다. 예를 들어, DoorDash는 이전에 팁 절도 혐의로 1,675만 달러에 소송을 해결했다.

그러나 Platformer의 저널리스트인 Casey Newton이 해당 사용자에게 연락했을 때 레딧 게시물의 진위가 의심스러워졌다. Newton은 해당 레딧 사용자가 조작된 것으로 보이는 사진을 공유했다고 보도했다. 추가 조사 결과 불일치와 위험 신호가 발견되어 전체 이야기가 인공 지능을 사용하여 조작되었을 가능성이 높다는 결론에 도달했다.

이번 사건은 AI 생성 콘텐츠의 정교함 증가와 대중의 의견을 속이고 조작할 수 있는 잠재력을 강조한다. 조작된 이야기가 인터넷에 새로운 것은 아니지만, 이 특정 게시물의 규모와 영향력은 디지털 시대에 사실과 허구를 구별하는 데 있어 어려움을 강조한다. AI가 설득력 있는 이야기를 만들 수 있는 능력은 온라인 플랫폼에 대한 신뢰 저하와 허위 정보 확산에 악용될 가능성에 대한 우려를 불러일으킨다.

전문가들은 이번 사건이 소셜 미디어 플랫폼과 뉴스 기관이 AI 생성 콘텐츠를 탐지하고 표시하기 위한 보다 강력한 방법을 개발해야 한다는 경종을 울리는 계기가 된다고 제안한다. 한 업계 분석가는 "AI가 믿을 만하지만 거짓된 이야기를 얼마나 쉽게 만들 수 있는지는 놀랍다"며 "이러한 증가하는 위협에 대처하기 위한 도구와 전략을 개발하는 것이 중요하다"고 말했다.

이번 사건은 또한 AI 개발자의 윤리적 책임과 AI 생성 콘텐츠 사용에 대한 투명성 강화의 필요성에 대한 의문을 제기한다. AI 기술이 계속 발전함에 따라 인간이 생성한 콘텐츠와 AI가 생성한 콘텐츠를 구별하기가 점점 더 어려워질 것이므로 허위 정보 확산에 대한 효과적인 안전 장치를 개발하는 것이 필수적이다.