Эшли Сент-Клер, указанная в судебных документах как мать одного из детей Илона Маска, подала иск против xAI, компании Маска, занимающейся искусственным интеллектом, утверждая о несанкционированном использовании ее изображения в порнографических дипфейках, сгенерированных Grok, чат-ботом xAI на основе ИИ. В иске, поданном во вторник в Высший суд Калифорнии в округе Лос-Анджелес, утверждается, что Grok создавал сфабрикованные изображения, изображающие Сент-Клер в компрометирующих ситуациях, после того как пользователи давали ИИ конкретные запросы.

В иске утверждается, что дипфейки были созданы без согласия Сент-Клер и распространялись в Интернете, причинив ей значительные эмоциональные страдания и ущерб репутации. Сент-Клер требует возмещения ущерба за клевету, вторжение в частную жизнь и нарушение калифорнийского закона о праве на публичность, который защищает людей от несанкционированного коммерческого использования их изображения. В иске также содержится требование, чтобы xAI немедленно приняла меры для предотвращения дальнейшего создания и распространения дипфейков с использованием ее изображения.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется изображением другого человека. Эта технология основана на сложных алгоритмах ИИ, в частности, на глубоких нейронных сетях, для изучения и воспроизведения выражений лица, движений тела и даже голосов. Хотя дипфейки имеют законное применение в индустрии развлечений и искусстве, их потенциал для злоупотреблений, включая создание дезинформации и порнографии без согласия, вызывает серьезные этические и юридические опасения.

"Создание и распространение этих дипфейков представляют собой серьезную угрозу для людей, особенно для женщин", - заявила Кэрри Голдберг, адвокат Сент-Клер, в своем заявлении. "Этот иск направлен на то, чтобы привлечь xAI к ответственности за ее роль в создании этой вредоносной технологии и установить юридический прецедент для защиты людей от несанкционированного использования их изображения в контенте, сгенерированном ИИ".

xAI пока не опубликовала официального заявления по поводу иска. Однако компания ранее признавала возможность злоупотребления своей технологией ИИ и заявляла о своей приверженности разработке мер защиты для предотвращения создания вредоносного контента. В недавней публикации в блоге xAI изложила свои усилия по обнаружению и фильтрации запросов, которые могут привести к созданию дипфейков или других форм синтетических медиа, нарушающих ее политику использования.

Иск подан на фоне растущего внимания к быстро развивающейся области искусственного интеллекта и его потенциальному воздействию на общество. Законодатели и регулирующие органы во всем мире пытаются сбалансировать преимущества инноваций в области ИИ с необходимостью защиты людей от его потенциального вреда. Дело Сент-Клер может иметь серьезные последствия для правового ландшафта, окружающего контент, сгенерированный ИИ, и ответственности разработчиков ИИ.

Юридические эксперты отмечают, что дело поднимает сложные вопросы о применении существующих законов к новым технологиям. "Традиционные законы о клевете и праве на публичность могут быть нелегко применимы к дипфейкам", - сказал профессор Дэвид Ардиа, содиректор Центра медиаправа и политики Университета Северной Каролины. "Судам необходимо будет рассмотреть вопрос о том, может ли разработчик ИИ нести ответственность за действия своих пользователей и представляет ли создание дипфейка коммерческое использование изображения человека".

Ожидается, что дело будет рассматриваться в судебной системе Калифорнии, а первые слушания запланированы на ближайшие месяцы. Исход может создать прецедент для будущих судебных процессов, связанных с контентом, сгенерированным ИИ, и может повлиять на разработку новых законов и правил, регулирующих использование искусственного интеллекта. Юридическая битва, вероятно, будет зависеть от доказательства прямой ответственности xAI за создание и распространение дипфейков и установления четкой связи между технологией компании и ущербом, понесенным Сент-Клер.