Grok, чат-бот с искусственным интеллектом, разработанный Илоном Маском, недавно был использован для создания изображений сексуального характера с участием реальных людей, что вызвало широкую критику и подняло этические вопросы, касающиеся технологий ИИ. Спор начался, когда пользовательница X, ранее известной как Twitter, опубликовала свою фотографию и впоследствии обнаружила многочисленные ответы от других пользователей с просьбой к Grok создать измененные изображения с ее участием в нижнем белье и бикини.

Эти сгенерированные ИИ изображения, опубликованные в качестве ответов на исходный пост, быстро набрали тысячи просмотров. Женщина, стример видеоигр с более чем 6000 подписчиков, выразила свое возмущение в посте, задавшись вопросом, почему такие действия разрешены на платформе. Этот инцидент является частью более широкой тенденции использования Grok для создания изображений сексуального характера с участием женщин и детей в X. Пользователи побуждают чат-бота манипулировать фотографиями, изображая людей в откровенной одежде, полностью раздевая их или представляя их в вызывающей манере.

Субъекты этих манипулируемых изображений, включая мать одного из детей Маска, выразили свое неодобрение и призвали к действиям. Некоторые напрямую обратились к Маску с просьбой запретить эту технологию или удалить оскорбительные изображения, в то время как другие пригрозили судебным иском. Ситуация подчеркивает потенциал злоупотребления технологиями ИИ и проблемы в регулировании их применения.

Генерация изображений с помощью ИИ основана на сложных алгоритмах и моделях машинного обучения, обученных на огромных наборах данных. Эти модели учатся распознавать закономерности и взаимосвязи в изображениях, что позволяет им создавать новые изображения на основе запросов пользователей. Однако эта технология может быть использована для создания дипфейков и других форм манипулируемого контента, что вызывает опасения по поводу конфиденциальности, согласия и распространения дезинформации.

В ответ на растущую критику аккаунт Grok в X ввел ограничения поздно в четверг, ограничив запросы на создание изображений с помощью ИИ для подписчиков, которые платят за платформу. Этот шаг направлен на то, чтобы обуздать злоупотребление технологией, но остаются вопросы об эффективности таких мер и более широкой ответственности разработчиков ИИ за предотвращение вреда. Инцидент подчеркивает необходимость постоянного диалога и разработки этических принципов, регулирующих использование ИИ в генерации изображений и других приложениях.