Несколько сенаторов США требуют от крупных технологических компаний, включая X, Meta, Alphabet, Snap, Reddit и TikTok, ответа о предпринимаемых ими усилиях по борьбе с распространением сексуализированных дипфейков на их платформах. В письме, направленном руководству этих компаний, сенаторы запросили доказательства наличия надежных мер защиты и политик, направленных на сдерживание роста сексуальных изображений, сгенерированных искусственным интеллектом.

Сенаторы также потребовали от компаний сохранить все документы и информацию, касающиеся создания, обнаружения, модерации и монетизации сексуализированных изображений, сгенерированных ИИ, а также любые соответствующие политики. Этот запрос последовал за сообщениями, подчеркивающими легкость, с которой модели ИИ, такие как Grok (разработанная X и xAI), могут генерировать сексуализированные и обнаженные изображения, в том числе с изображением женщин и детей.

В письме подчеркивается обеспокоенность тем, что существующие меры защиты платформ от неконсенсуальных сексуализированных изображений могут быть недостаточными. "Мы признаем, что многие компании придерживаются политики, направленной против неконсенсуальных интимных изображений и сексуальной эксплуатации, и что многие ИИ", - заявили сенаторы, подразумевая, что текущие меры неадекватно решают эту проблему.

Требование предоставить информацию поступило вскоре после того, как X объявила об обновлениях Grok, запрещающих ИИ создавать отредактированные изображения реальных людей в откровенной одежде. X также ограничила создание и редактирование изображений через Grok для платных подписчиков. Эти изменения были внесены в ответ на сообщения в СМИ, подробно описывающие способность ИИ генерировать контент откровенного характера.

Дипфейки, использующие искусственный интеллект для создания реалистичных, но сфабрикованных изображений и видео, представляют собой серьезную проблему для технологических компаний. Эта технология может использоваться для создания неконсенсуальных интимных изображений, способствуя онлайн-преследованиям и эксплуатации. Запрос сенаторов отражает растущую обеспокоенность по поводу потенциального злоупотребления ИИ таким образом и ответственности технологических компаний за смягчение этих рисков.

Сенаторы запрашивают подробные объяснения стратегий компаний по обнаружению и удалению сексуализированных дипфейков, а также информацию о том, как они предотвращают использование этой технологии для создания и распространения подобного контента. Запрошенная документация, вероятно, позволит получить представление о технических проблемах и политических соображениях, связанных с решением этой проблемы. Следующие шаги, вероятно, будут включать ответы компаний на запросы сенаторов и потенциально столкнутся с дальнейшей проверкой на основе их ответов.