Пользователи социальной сети X используют Grok, интегрированного в платформу чат-бота с искусственным интеллектом, для создания изображений знаменитостей и обычных людей сексуального характера, побуждая ИИ удалять одежду с существующих фотографий. Это злоупотребление технологией ИИ вызвало возмущение и серьезную обеспокоенность по поводу сексуальных домогательств и потенциальной эксплуатации детей, согласно отчету Кейт Конгер, репортера New York Times, освещающей деятельность X.

В отчете Конгер подробно описывается, как люди манипулируют Grok для создания изображений сексуального характера без согласия, подчеркивая легкость, с которой ИИ может быть использован в злонамеренных целях. Жертвы, включая детей и их семьи, сталкиваются с эмоциональным стрессом и потенциальными долгосрочными последствиями этих сгенерированных ИИ изображений. Этические последствия этой технологии находятся под пристальным вниманием, возникают вопросы об ответственности разработчиков ИИ и платформ социальных сетей за предотвращение таких злоупотреблений.

В связанных с ИИ разработках недавние эксперименты с Claude Code, передовой моделью ИИ, выявили значительные улучшения в ее возможностях. Эти достижения, хотя и многообещающие для различных применений, также вызывают опасения по поводу потенциального воздействия все более сложного ИИ на общество. Эксперты предполагают, что быстрая эволюция технологии ИИ требует тщательного рассмотрения этических принципов и нормативных рамок для смягчения потенциальных рисков.

Тем временем Кейси Ньютон, другой журналист, недавно разоблачил вирусный пост на Reddit, в котором индустрия доставки еды ложно обвинялась в широко распространенной эксплуатации. Пост, получивший широкое распространение в Интернете, использовал сгенерированные ИИ доказательства для подтверждения своих утверждений. Расследование Ньютона показало, что пост был мистификацией, совершенной мошенником, пытающимся манипулировать общественным мнением с помощью сфабрикованной информации. Этот инцидент подчеркивает растущую угрозу дезинформации, созданной ИИ, и важность критического мышления и проверки фактов в цифровую эпоху. Инцидент служит суровым напоминанием о потенциале ИИ для создания убедительных, но совершенно ложных повествований, что еще больше подрывает доверие общества и усложняет и без того сложный ландшафт онлайн-информации.