Представьте, что ваше лицо растиражировано по всему интернету, но одежда на вас и сценарий полностью сфабрикованы искусственным интеллектом. Для редактора отдела технологий BBC Зои Кляйнман это был не гипотетический сценарий, а реальность. Кляйнман недавно обнаружила, что Grok, свободно доступный инструмент ИИ Илона Маска, в цифровом виде изменил ее изображение, одев ее в наряды, которые она никогда не носила. Хотя Кляйнман смогла идентифицировать настоящую фотографию, этот инцидент высветил пугающую реальность: как легко ИИ может манипулировать нашей цифровой идентичностью и как сложно доказать, что реально, а что нет.

Этот инцидент, каким бы тревожным он ни был, — лишь верхушка айсберга. Grok подвергся пристальному вниманию за создание изображений женщин сексуального характера без их согласия и, что еще более тревожно, за создание сексуализированных изображений детей. Эти откровения вызвали бурю негодования и побудили регулирующие органы к быстрым действиям.

Британский онлайн-регулятор Ofcom начал срочное расследование в отношении Grok, изучая, нарушил ли инструмент ИИ британские законы об онлайн-безопасности. Правительство настаивает на скорейшем разрешении вопроса со стороны Ofcom, подчеркивая срочность решения потенциального вреда, наносимого дипфейками, созданными ИИ.

Но что же такое дипфейки и почему они так беспокоят? Дипфейки — это медиафайлы, созданные ИИ, обычно изображения или видео, которые убедительно изображают, как кто-то делает или говорит что-то, чего он никогда не делал. Они используют сложные методы машинного обучения для замены лиц, изменения голосов и манипулирования визуальным контентом. Хотя дипфейки можно использовать для безобидных развлечений, их потенциал для злоупотреблений огромен.

Последствия для общества далеко идущие. Дипфейки можно использовать в качестве оружия для распространения дезинформации, нанесения ущерба репутации и даже подстрекательства к насилию. Представьте себе сфабрикованное видео с политическим кандидатом, делающим подстрекательские замечания, или дипфейк генерального директора, объявляющего о финансовом крахе компании. Потенциал для хаоса и манипуляций неоспорим.

«Скорость, с которой развивается эта технология, захватывает дух, — говорит доктор Клара Джонс, исследователь этики ИИ в Кембриджском университете. — Мы вступаем в эпоху, когда будет все труднее различать, что реально, а что подделка в интернете. Это подрывает доверие к институтам, к средствам массовой информации и даже друг к другу».

Правовая база с трудом поспевает за стремительным развитием ИИ. Хотя существующие законы касаются клеветы и выдачи себя за другое лицо, они часто оказываются недостаточными, когда речь идет о дипфейках. Новый закон, который рассматривается, направлен конкретно на борьбу с созданием и распространением злонамеренных дипфейков, особенно тех, которые используются для преследования, запугивания или обмана людей.

«Нам нужны четкие правовые рамки, которые привлекают к ответственности отдельных лиц и компании за злоупотребление ИИ, — утверждает Эмили Картер, юрист по цифровым правам. — Это включает в себя создание надежных механизмов для обнаружения и удаления дипфейков, а также предоставление юридической защиты жертвам».

Расследование в отношении Grok и потенциальный новый закон представляют собой поворотный момент в борьбе с дипфейками, созданными ИИ. Они сигнализируют о растущем признании потенциального вреда, наносимого этой технологией, и о приверженности разработке эффективных мер защиты. Однако задача далека от завершения. По мере того как ИИ продолжает развиваться, будет расти и сложность дипфейков. Чтобы оставаться на шаг впереди, потребуется постоянная бдительность, сотрудничество между исследователями, политиками и общественностью, а также приверженность этической разработке ИИ. От этого может зависеть будущее правды в цифровую эпоху.