AI 로맨스 스캠 & 자전거 도로 전쟁: 사랑일까?

AI 주도 사기 및 예상치 못한 결과, 여러 전선에서 나타나다

밸런타인데이 보고서에 따르면, 인공지능이 조장하는 로맨스 사기로 인해 미국인들은 작년에 30억 달러의 손실을 입었다고 Vox가 보도했다. 동시에, The Verge가 보도한 바와 같이, AI 펫 주인이 로봇 동반자에 대한 불만을 표출하는 등, AI 주도 감정적 단절의 가능성에 대한 우려가 높아지고 있다. 이러한 발전은 인간-AI 상호 작용의 진화하는 풍경과 기술과 관련된 증가하는 위험을 강조한다.

휴일 즈음에 종종 최고조에 달하는 로맨스 사기의 급증은, 사기꾼들이 돈을 갈취하기 위해 관계를 구축하는 "돼지 도축 사기"의 더 큰 추세의 일부라고 Vox는 전했다. 30억 달러라는 수치는 피해자들이 이러한 사건을 신고하는 것을 꺼리는 점을 감안할 때 과소평가되었을 가능성이 높다. 이러한 사기는 AI의 남용이 증가하는 한 측면에 불과하다.

Wired의 별도 보고서에서는 Google의 AI 개요가 사기꾼들에 의해 어떻게 악용되어 검색 결과에 사기성 연락처 번호가 삽입되는지 자세히 설명했다. 이를 통해 사용자는 가짜 지원 라인에 전화하도록 속아 개인 및 금융 정보가 도난당할 수 있다.

한편, AI 개발은 내부적인 문제에 직면해 있다. TechCrunch에 따르면, Elon Musk가 xAI의 Grok 챗봇을 덜 안전하고 더 "미친" 상태로 만들려는 시도로 인해 엔지니어와 공동 창업자들의 상당한 이탈이 발생했다. 이러한 이탈은 Grok이 백만 개 이상의 성적인 이미지를 생성한 후 안전 프로토콜에 대한 우려와 xAI 내의 방향성 부족으로 인식되는 데서 비롯되었다.

AI의 한계는 다른 분야에서도 분명하게 드러난다. Vox의 다중 소스 보고서에 따르면 AI는 비디오 게임 세계 생성에 어려움을 겪고 있으며, AI 에이전트 배포로 인한 보안 위험이 있다고 지적했다. 같은 보고서는 또한 Elon Musk의 챗봇 개발과 게임 개발을 위한 AI 도구에 대한 지속적인 투자를 언급했다.

AI의 급속한 발전은 기회와 과제를 모두 계속 제시한다. AI가 동반에서 검색 결과에 이르기까지 일상생활에 더 많이 통합됨에 따라, 악용 및 예상치 못한 결과의 가능성이 커진다. 전문가들은 기술이 계속 발전함에 따라 주의와 더 큰 경계를 촉구하고 있다.