Генеральный прокурор Калифорнии Роб Бонта в пятницу направил компании xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих сексуальное насилие над детьми (CSAM). Этому действию предшествовало сделанное ранее на этой неделе заявление о том, что офис генерального прокурора Калифорнии проводит расследование в отношении xAI, компании искусственного интеллекта Илона Маска, в связи с сообщениями о том, что ее чат-бот Grok используется для создания сексуальных изображений женщин и несовершеннолетних без их согласия.
В пресс-релизе Бонта заявил: «Сегодня я направил компании xAI предписание о прекращении противоправных действий, требуя от компании немедленно прекратить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, содержащих сексуальное насилие над детьми. Создание этих материалов является незаконным. Я полностью ожидаю, что xAI немедленно выполнит это требование. В Калифорнии нулевая терпимость к CSAM».
Офис генерального прокурора также заявил, что xAI, по-видимому, способствует крупномасштабному производству обнаженных изображений, созданных без согласия, которые, как утверждается, используются для преследования женщин и девочек в Интернете. Агентство ожидает, что xAI в течение пяти дней продемонстрирует шаги, которые она предпринимает для решения этих проблем.
В центре споров находится функция Grok "spicy mode" (режим "острых" тем), которую xAI создала, чтобы обеспечить более нефильтрованные и потенциально провокационные ответы от ИИ. Эта функция, хотя и предназначена для обеспечения более интересного пользовательского опыта, по-видимому, открыла дверь для создания вредоносного и незаконного контента.
Дипфейки, синтетические медиа, созданные с помощью ИИ, которые могут убедительно изображать людей, делающих или говорящих то, чего они никогда не делали, вызывают все большую обеспокоенность. Эта технология поднимает важные этические и юридические вопросы, особенно когда используется для создания порнографии без согласия или для распространения дезинформации. Относительная легкость, с которой эти изображения могут быть созданы и распространены в Интернете, увеличивает потенциальный вред.
Расследование и последующее предписание о прекращении противоправных действий подчеркивают проблемы регулирования быстро развивающихся технологий ИИ. Хотя ИИ предлагает многочисленные преимущества, он также представляет риски, которые требуют тщательного рассмотрения и принятия упреждающих мер для их смягчения. Этот случай подчеркивает необходимость того, чтобы разработчики ИИ уделяли приоритетное внимание безопасности и этическим соображениям в процессах проектирования и развертывания.
xAI пока публично не отреагировала на предписание о прекращении противоправных действий. Теперь компания сталкивается с задачей продемонстрировать офису генерального прокурора Калифорнии, что она предпринимает конкретные шаги для предотвращения злоупотребления своей технологией и для защиты людей от создания и распространения дипфейк-изображений, созданных без согласия. Исход этого дела может создать прецедент того, как компании, занимающиеся разработкой ИИ, будут нести ответственность за потенциальное злоупотребление своими технологиями.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
Мэтт Дэймон пролил немного чая о стратегии Netflix в кинопроизводстве, раскрыв, что стриминговый сервис адаптирует фильмы для зрителей, смотрящих их на телефонах! Оказывается, они выносят экшен на передний план и несколько раз повторяют сюжет, предполагая, что мы все отвлекаемся на другие дела во время просмотра – вот это поворот в кинематографическом повествовании!
Марк Джонс, режиссёр культовых хоррор-комедий *Leprechaun* и *Rumpelstiltskin*, скончался в Лос-Анджелесе в возрасте 72 лет, незадолго до своего дня рождения. Его работы, особенно *Leprechaun* с Уорвиком Дэвисом в главной роли, получили международное признание и внесли вклад в жанр хоррора, отражая глобальный интерес к переосмыслению фольклора через комедийную призму.
Киллиан Мёрфи вновь исполнит роль Джима в фильме «28 лет спустя: Костяной храм», что ознаменует его возвращение во франшизу о зомби, с которой началась его карьера. Режиссер Ниа ДаКоста предпочла приземленное повторное представление персонажа, отдав приоритет повествовательному воздействию, а не сенсационному "супергеройскому" моменту.
Сообщается, что Белый дом пригрозил CBS судебным иском из-за опасений по поводу редактирования недавнего интервью президента Трампа в программе "Evening News", потребовав показать полную, неотредактированную версию беседы. Эта угроза перекликается с предыдущим успешным соглашением с Paramount (материнской компанией CBS), по которому Трамп получил 16 миллионов долларов в связи с редактированием интервью Камалы Харрис в программе "60 Minutes" в 2024 году, что поднимает вопросы об автономии СМИ и влиянии манипулирования контентом с помощью ИИ на формирование общественного восприятия политических деятелей.
Изменяющиеся климатические модели, в частности Североатлантическое колебание, влияют на продолжительность трансатлантических перелетов, предлагая пассажирам более короткие путешествия в восточном направлении. Это явление подчеркивает, как более широкие климатические тенденции, выходящие за рамки ежедневной погоды, все больше формируют наш опыт путешествий и побуждают к размышлениям о взаимосвязи климата и общества.
NASA отказалось от планов по возвращению образцов марсианских пород на Землю, что повлияет на потенциальные научные открытия; это решение подчеркивает сложности межпланетных миссий и ценность анализа на месте. Отдельно, генетические исследования выявили гены, отвечающие за висячие уши у собак, предлагая понимание одомашнивания и эволюции физических признаков, демонстрируя, как ИИ и генетическое секвенирование продвигают наше понимание природного мира.
Новое исследование показывает, что широкая вакцинация против ВПЧ может предложить защиту от цервикальных поражений даже для невакцинированных лиц, подчеркивая потенциал коллективного иммунитета в борьбе с этим вирусом, вызывающим рак. Это исследование подчеркивает важность программ вакцинации в общественном здравоохранении и демонстрирует, как коллективные действия могут снизить риск заболевания, что является ключевой концепцией в понимании эпидемиологических моделей, управляемых ИИ. Результаты, основанные на большой когорте, предполагают значительный шаг вперед в профилактике рака шейки матки.
Недавнее исследование показывает, что распространенные глазные мази на основе вазелина могут негативно влиять на глаукомные имплантаты, вызывая их набухание и потенциальный разрыв из-за поглощения масла. Это открытие, сочетающее клинические наблюдения и лабораторные эксперименты, подчеркивает ранее неизвестный риск, связанный со стандартным послеоперационным уходом за глазами, и вызывает опасения у пациентов с глаукомой во всем мире.
ИИ используется для анализа глобальных данных о раке, выявляя конкретные факторы, влияющие на показатели выживаемости в разных странах. Это новое применение машинного обучения позволяет определить ключевые переменные в сфере здравоохранения и экономики, такие как доступ к лучевой терапии и всеобщее медицинское страхование, которые могут быть использованы для улучшения результатов лечения рака во всем мире, предлагая идеи для целенаправленных изменений в политике.
Исследователи разработали новую технику микрокапсулирования для стабилизации и точной доставки экстракта тимьяна, натурального средства с многообещающими преимуществами для здоровья. Этот подход, основанный на искусственном интеллекте, решает проблему летучести тимьяна, открывая путь к последовательным нанодозам в будущих лекарствах и пищевых продуктах, и подчеркивает потенциал ИИ в оптимизации доставки натуральных соединений для повышения терапевтической эффективности.
Исследователи используют анализ микроземлетрясений на основе ИИ для картирования сложной, ранее неизвестной системы разломов в месте соединения разлома Сан-Андреас и зоны субдукции Каскадия в Северной Калифорнии. Это открытие ставит под сомнение существующие модели и может значительно улучшить оценку риска землетрясений в регионе, подверженном разрушительным сейсмическим событиям, подчеркивая растущую роль ИИ в понимании сложных геологических явлений.
Клиническое испытание вакцины против ВИЧ в странах Африки к югу от Сахары, финансируемое за счет значительного гранта USAID и проводимое консорциумом африканских ученых BRILLIANT, столкнулось с угрозой отмены из-за непредвиденных трудностей. Эксперты подчеркивают критическую необходимость такой вакцины, учитывая непропорционально сильное воздействие ВИЧ в регионе, и работают над устранением препятствий для обеспечения продолжения испытания и его потенциального успеха.
Discussion
Join the conversation
Be the first to comment