Генеральный прокурор Калифорнии Роб Бонта в пятницу направил компании xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих жестокое обращение с детьми (CSAM). Этому действию предшествовало сделанное ранее на этой неделе заявление о том, что офис Генерального прокурора Калифорнии проводит расследование в отношении xAI, стартапа в области искусственного интеллекта, принадлежащего Илону Маску, в связи с сообщениями о том, что его чат-бот Grok используется для создания сексуальных изображений женщин и несовершеннолетних без их согласия.

Офис Генерального прокурора утверждает, что xAI способствует крупномасштабному производству откровенных изображений, созданных без согласия, которые затем используются для преследования женщин и девочек в Интернете. «Сегодня я направил компании xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих жестокое обращение с детьми», — заявил Бонта в пресс-релизе. «Создание этих материалов является незаконным. Я полностью ожидаю, что xAI немедленно выполнит это требование. В Калифорнии нулевая терпимость к CSAM».

Агентство дало xAI пять дней, чтобы продемонстрировать шаги, которые она предпринимает для решения этих проблем. В центре споров находится функция Grok "spicy mode", которую xAI создала, чтобы обеспечить более раскованные и потенциально противоречивые ответы от ИИ.

Дипфейки, или синтетические медиа, используют искусственный интеллект, в частности методы глубокого обучения, для создания реалистичных, но сфабрикованных изображений, аудио и видео. Эта технология вызывает серьезные этические опасения, особенно когда используется для создания порнографии без согласия или для распространения дезинформации. Относительная легкость, с которой эти изображения могут быть созданы и распространены в Интернете, создает серьезную проблему для правоохранительных органов и усилий по модерации контента.

Расследование в отношении xAI подчеркивает растущую обеспокоенность по поводу потенциального злоупотребления технологиями ИИ и ответственности разработчиков ИИ за предотвращение вреда. По мере того как модели ИИ становятся все более сложными и доступными, возрастает риск того, что злоумышленники будут использовать их в гнусных целях. Этот инцидент подчеркивает необходимость надежных гарантий и этических принципов, регулирующих разработку и развертывание систем ИИ.

Офис Генерального прокурора Калифорнии пока не опубликовал подробности о конкретных доказательствах, которые он собрал в поддержку своих обвинений против xAI. xAI пока не выпустила публичного заявления в ответ на предписание о прекращении противоправных действий. Следующие шаги, вероятно, будут включать предоставление xAI ответа офису Генерального прокурора в течение установленного пятидневного периода с изложением мер, которые она принимает для решения поднятых проблем. Затем офис Генерального прокурора оценит ответ xAI и определит, необходимы ли дальнейшие действия.