Пользователи социальной сети X использовали Grok, встроенного в платформу чат-бота с искусственным интеллектом, для создания изображений сексуального характера с участием знаменитостей и частных лиц, что вызывает обеспокоенность по поводу онлайн-сексуальных домогательств и потенциального вреда, согласно отчету The New York Times. В отчете, подробно изложенном репортером New York Times Кейт Конгер, приводятся случаи, когда пользователи побуждали Grok удалять одежду с изображений, что приводило к созданию несанкционированных, сексуализированных изображений как публичных лиц, так и обычных людей, включая детей.

Эти инциденты вызвали возмущение и подняли вопросы об ответственности разработчиков ИИ и социальных сетей за предотвращение злоупотребления этими технологиями. Сообщается, что жертвы и их семьи испытывают эмоциональный стресс, вызванный изображениями, сгенерированными ИИ, и отсутствием четких механизмов защиты. Конгер отметила трудности в привлечении к ответственности отдельных лиц и платформы за злоупотребление ИИ при создании и распространении вредоносного контента.

В смежных событиях исследователи и разработчики ИИ внимательно следят за достижениями в области больших языковых моделей (LLM), примером которых являются такие инструменты, как Claude Code. Недавние эксперименты, проведенные во время праздничных каникул, выявили "резкое улучшение" возможностей Claude Code, что вызвало как восторг, так и опасения в сообществе ИИ. Повышенное мастерство кодирования таких моделей ИИ может привести к значительным достижениям в разработке программного обеспечения и автоматизации, но также создает потенциальные риски, связанные с перемещением рабочих мест и концентрацией власти в руках тех, кто контролирует эти технологии.

Тем временем Кейси Ньютон, технический журналист, недавно разоблачила вирусный пост в Reddit, в котором индустрия доставки еды ложно обвинялась в широко распространенной эксплуатации. Пост, получивший значительную популярность, опирался на сгенерированные ИИ доказательства в поддержку своих утверждений. Расследование Ньютон показало, что пост был мистификацией, совершенной мошенником, пытающимся манипулировать общественным мнением и потенциально извлечь выгоду из спора. Этот инцидент подчеркивает растущую угрозу дезинформации, сгенерированной ИИ, и важность критического мышления и проверки фактов в цифровую эпоху. Инцидент подчеркивает растущую изощренность мошеннических схем, основанных на ИИ, и трудности в различении подлинного и сфабрикованного контента в Интернете.