Ofcom расследует деятельность X в связи с опасениями по поводу сексуальных дипфейков, созданных с помощью Grok AI

Лондон – Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X (ранее Twitter), принадлежащей Илону Маску, в связи с опасениями, что ее инструмент искусственного интеллекта, Grok, используется для создания изображений сексуального характера. Расследование было вызвано "вызывающими глубокую обеспокоенность сообщениями" об использовании чат-бота для создания и распространения изображений людей в обнаженном виде, а также "изображений детей сексуального характера", говорится в заявлении, опубликованном Ofcom.

Расследование регулятора будет сосредоточено на том, нарушила ли X соответствующие законы и правила, касающиеся создания и распространения вредоносного контента. Если будет установлено, что X нарушила правила, Ofcom имеет право наложить штраф в размере до 10% от общемирового дохода компании или 18 миллионов фунтов стерлингов, в зависимости от того, что больше.

В ответ на расследование X направила BBC к заявлению, опубликованному аккаунтом Safety в начале января. В заявлении говорилось: "Любой, кто использует Grok или побуждает его к созданию незаконного контента, [понесет наказание]". Компания не стала вдаваться в подробности о конкретных мерах, принимаемых для предотвращения злоупотребления Grok.

Расследование подчеркивает растущую обеспокоенность по поводу возможности использования инструментов искусственного интеллекта в злонамеренных целях, особенно для создания дипфейков. Действия Ofcom подчеркивают усиление контроля над платформами социальных сетей и их ответственностью за защиту пользователей от вредоносного контента, создаваемого ИИ. Результаты расследования могут иметь серьезные последствия для X и других компаний, разрабатывающих и внедряющих технологии искусственного интеллекта.