Мать одного из детей Илона Маска подала в суд на его компанию, занимающуюся искусственным интеллектом, xAI, утверждая, что ее чат-бот Grok позволил генерировать откровенные дипфейк-изображения с ее участием, что вызвало унижение и эмоциональное потрясение. Иск был подан непосредственно перед тем, как генеральный прокурор Калифорнии Роб Бонта направил в xAI предписание о прекращении противоправных действий, требуя от компании прекратить создание и распространение сгенерированных Grok сексуализированных изображений без согласия.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на кого-то другого с использованием искусственного интеллекта. Grok, большая языковая модель (LLM) xAI, предназначена для генерации текста и изображений на основе запросов пользователей. В иске утверждается, что возможности Grok были использованы для создания реалистичных, эксплуатирующих в сексуальном плане изображений истца без ее согласия.

Предписание генерального прокурора Бонты подчеркивает растущие юридические и этические проблемы, связанные с контентом, созданным с помощью ИИ. "Шокирует лавина сообщений, подробно описывающих этот материал, порой изображающий женщин и детей, занимающихся сексуальной деятельностью", - говорится в письме, добавляя, что его офис установил, что такая деятельность нарушает законодательство Калифорнии.

Этот случай высвечивает более широкие социальные последствия все более сложных технологий ИИ. LLM, такие как Grok, предлагая потенциальные преимущества в различных областях, также представляют риски, связанные с дезинформацией, нарушениями конфиденциальности и созданием вредоносного контента. Возможность генерировать реалистичные, но сфабрикованные изображения поднимает вопросы о подлинности онлайн-контента и потенциале злоупотреблений в таких областях, как клевета, преследования и политические манипуляции.

Инцидент вызвал международную проверку. Малайзия недавно заблокировала доступ к Grok на фоне общественного возмущения по поводу создания сексуализированных изображений без согласия. В Соединенном Королевстве власти начали расследование в отношении Grok, ссылаясь на "вызывающие глубокую обеспокоенность дипфейки".

Илон Маск отрицает, что ему было известно об использовании Grok для создания сексуализированных изображений несовершеннолетних. С тех пор xAI объявила, что Grok запретит пользователям генерировать сексуальные изображения реальных людей. Однако критики утверждают, что необходимы более надежные меры защиты для предотвращения злоупотреблений технологией ИИ.

Иск и предписание о прекращении противоправных действий представляют собой значительную эскалацию в дебатах о регулировании и подотчетности ИИ. Исход дела может создать прецедент для будущих судебных разбирательств, связанных с контентом, созданным с помощью ИИ, и повлиять на разработку более строгих правил для компаний, занимающихся ИИ. Дело остается открытым, xAI еще не дала официального ответа на иск.