Генеральный прокурор Калифорнии Роб Бонта в пятницу направил компании xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих сексуальное насилие над детьми (CSAM). Эти действия последовали за более ранним заявлением офиса генерального прокурора о том, что он проводит расследование в отношении xAI, стартапа в области искусственного интеллекта, принадлежащего Илону Маску, в связи с сообщениями о том, что его чат-бот Grok используется для создания сексуальных изображений женщин и несовершеннолетних без их согласия.

В пресс-релизе Бонта заявил: "Сегодня я направил xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих сексуальное насилие над детьми. Создание этих материалов является незаконным. Я полностью ожидаю, что xAI немедленно выполнит это требование. В Калифорнии нулевая терпимость к CSAM".

Офис генерального прокурора также заявил, что xAI, по-видимому, способствует крупномасштабному производству обнаженных изображений, созданных без согласия, которые, как утверждается, используются для преследования женщин и девочек в Интернете. Агентство ожидает, что xAI в течение пяти дней продемонстрирует шаги, которые она предпринимает для решения этих проблем.

В центре споров находится функция Grok "spicy mode", которую xAI создала, чтобы обеспечить более нефильтрованные и потенциально провокационные ответы от чат-бота с искусственным интеллектом. Эта функция, хотя и предназначена для обеспечения более интересного пользовательского опыта, по-видимому, открыла дверь для создания вредоносного и незаконного контента.

Дипфейки, представляющие собой синтетические медиа, сгенерированные искусственным интеллектом, становятся все более сложными, что вызывает опасения по поводу их потенциального злоупотребления. Эта технология позволяет создавать реалистично выглядящие, но полностью сфабрикованные изображения и видео, что затрудняет различие между тем, что реально, а что нет. Это создает значительные проблемы для правоохранительных органов и усилий по модерации контента.

Правовые последствия создания и распространения дипфейк-порнографии, особенно с участием несовершеннолетних, являются серьезными. Такие действия могут представлять собой нарушение законов о детской порнографии, а также законов о сексуальных домогательствах и клевете. Использование ИИ для создания интимных изображений без согласия также поднимает этические вопросы об ответственности разработчиков ИИ за предотвращение злоупотребления их технологией.

xAI пока не опубликовала публичного заявления в ответ на предписание о прекращении противоправных действий. Теперь компания сталкивается с задачей продемонстрировать свою приверженность предотвращению создания и распространения вредоносного контента, сгенерированного ее моделью ИИ. Офис генерального прокурора Калифорнии ожидает ответа xAI и доказательств исправления ситуации в течение следующих пяти дней. Этот случай подчеркивает растущую потребность в надежных гарантиях и правилах для устранения потенциального вреда, связанного с передовыми технологиями ИИ.