Правительство подвергается критике за предполагаемую задержку с внедрением законодательства, направленного на борьбу со злоупотреблением технологией дипфейков, особенно в свете появления Grok AI, новой модели искусственного интеллекта, способной генерировать высокореалистичные синтетические медиа. Критики утверждают, что задержка делает общество уязвимым для потенциального вреда от дипфейков, включая кампании по дезинформации, ущерб репутации и даже финансовое мошенничество.

Опасения связаны с растущей сложностью и доступностью инструментов ИИ, таких как Grok, разработанного xAI. Grok, как и другие большие языковые модели (LLM), обучен на огромных наборах текстовых и графических данных, что позволяет ему генерировать реалистичный текст, изображения и видео. Эта возможность, предлагая потенциальные преимущества в таких областях, как создание контента и образование, также представляет значительный риск злонамеренного использования. Дипфейки, созданные с помощью таких инструментов, трудно обнаружить, что затрудняет различие между подлинным и сфабрикованным контентом.

"Чем дольше мы ждем регулирования дипфейков, тем больше возможностей появляется у злоумышленников для эксплуатации этой технологии", - заявила доктор Аня Шарма, профессор этики ИИ в Калифорнийском университете в Беркли. "Нам нужны четкие правовые рамки, которые определяют, что представляет собой дипфейк, устанавливают ответственность за его злоупотребление и предусматривают механизмы возмещения ущерба".

Предлагаемое законодательство, которое находится на рассмотрении уже несколько месяцев, направлено на решение этих проблем путем установления юридических определений для дипфейков, определения наказаний за их злонамеренное создание и распространение, а также создания основы для аутентификации контента. Однако, как сообщается, прогресс по законопроекту застопорился из-за разногласий по поводу масштаба регулирования и опасений по поводу потенциального воздействия на свободу слова.

Некоторые утверждают, что чрезмерно широкие правила могут подавить законное использование технологии ИИ, такое как сатира и художественное выражение. Другие утверждают, что потенциальный вред от дипфейков перевешивает эти опасения и что необходимы строгие правила для защиты отдельных лиц и учреждений.

Эти дебаты подчеркивают сложные задачи регулирования быстро развивающихся технологий ИИ. Политики должны сбалансировать необходимость защиты общества от потенциального вреда со стремлением стимулировать инновации и избежать непредвиденных последствий.

Текущий статус законодательства остается неопределенным. Правительственные чиновники заявили, что они привержены решению проблемы дипфейков, но не предоставили сроков, когда законопроект может быть завершен. Тем временем эксперты призывают отдельных лиц и организации проявлять бдительность в отношении потенциала дипфейков и разрабатывать стратегии для обнаружения и смягчения их воздействия. Несколько технологических компаний также работают над разработкой инструментов для обнаружения дипфейков, но технология постоянно развивается, что делает ее непрерывной гонкой вооружений между создателями и детекторами.