AI-компания Илона Маска, X.AI, ограничила доступ к функции генерации изображений Grok для платных подписчиков на платформе X после широкой критики по поводу злоупотребления этим инструментом. Ограничение, объявленное в пятницу в ответах пользователям, ограничивает возможности генерации и редактирования изображений только платным подписчикам.
Этот шаг был предпринят после того, как функция генерации изображений с помощью ИИ, первоначально доступная всем пользователям с ежедневными лимитами, была использована для создания откровенно сексуализированных изображений женщин, детей, актеров, моделей и публичных лиц без их согласия, что вызвало международное возмущение. Пользователи могли загружать изображения людей и давать ИИ команду генерировать сексуализированные или обнаженные версии.
X и Маск публично осудили злоупотребление этим инструментом, подтвердив приверженность компании обеспечению соблюдения своей политики в отношении незаконного контента. "Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента", - заявили в X.
Ограничение в настоящее время не распространяется на приложение Grok, которое на момент публикации позволяло всем пользователям генерировать изображения без платной подписки. Это несоответствие поднимает вопросы о стратегии X.AI по управлению модерацией контента на различных платформах.
Этот инцидент подчеркивает проблемы ответственного развертывания инструментов генерации изображений с помощью ИИ. Хотя эти инструменты предлагают творческий потенциал, они также представляют риски злоупотребления, включая создание дипфейков, неконсенсуальной порнографии и других форм вредоносного контента. Инцидент также поднимает вопросы о роли платформ социальных сетей в контроле над контентом, сгенерированным ИИ, и об эффективности текущей политики модерации контента.
Решение ограничить доступ для платных подписчиков можно рассматривать как способ для X.AI усилить контроль над использованием инструмента и потенциально снизить риск злоупотребления. Ограничив доступ к меньшей, платной базе пользователей, компания, возможно, сможет более эффективно отслеживать и модерировать сгенерированный контент. Однако это также вызывает опасения по поводу доступности и того, не окажут ли такие ограничения непропорциональное воздействие на определенные группы пользователей.
Долгосрочное влияние этого решения на внедрение и развитие инструментов генерации изображений с помощью ИИ еще предстоит увидеть. Инцидент служит предостережением для других компаний, разрабатывающих аналогичные технологии, подчеркивая необходимость надежных гарантий и этических соображений при проектировании и развертывании инструментов на базе ИИ. X.AI пока не объявила о дальнейших планах по решению проблем, поднятых злоупотреблением функцией генерации изображений Grok.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
В этой статье рассматривается противоречивый рост контента, сгенерированного ИИ, или "AI slop", анализируется его потенциал как в ухудшении онлайн-пространств, так и в предоставлении неожиданной творческой ценности. Также затрагивается развивающийся ландшафт технологии CRISPR и ожидание более мягких правил для применения редактирования генов.
Атаки на AI в процессе выполнения, управляемые искусственным интеллектом, опережают традиционные меры безопасности, поскольку злоумышленники используют уязвимости в производственных AI-агентах за считанные секунды, что намного быстрее типичных циклов установки исправлений. Этот сдвиг побуждает директоров по информационной безопасности (CISO) внедрять платформы безопасности инференса, которые обеспечивают видимость и контроль над AI-моделями в производственной среде в режиме реального времени для смягчения этих возникающих угроз. В отчете CrowdStrike за 2025 год подчеркивается скорость и изощренность этих атак, что подчеркивает необходимость передовых решений в области безопасности.
Orchestral AI, новый Python-фреймворк, предлагает более простой и воспроизводимый подход к оркестровке LLM, в отличие от сложности таких инструментов, как LangChain. Приоритизируя синхронное выполнение и типобезопасность, Orchestral стремится сделать ИИ более доступным для научных исследований и экономически эффективной разработки, потенциально влияя на то, как ИИ интегрируется в области, требующие детерминированных результатов.
Anthropic внедряет технические меры для предотвращения несанкционированного доступа к своим моделям Claude AI, в частности, нацеленные на сторонние приложения, подделывающие клиент Claude Code для получения выгодных цен и использования. Это действие нарушает рабочие процессы для пользователей агентов кодирования с открытым исходным кодом и ограничивает возможности конкурирующих лабораторий обучать конкурирующие системы с использованием Claude, поднимая вопросы о балансе между защитой моделей ИИ и содействием открытым инновациям.
Fujifilm X-E5 – это горячая новинка, камера, которая, по сути, является X100VI со свободой сменных объективов, отвечая на молитвы фотоэнтузиастов по всему миру! Набирая очки за компактный дизайн, потрясающее качество изображения и любимую цветопередачу Fujifilm, X-E5 доказывает, что даже гиганты фотоиндустрии не могут достичь совершенства, оставляя некоторых желать большего в видео и защите от непогоды.
Новогодние обещания часто связаны с формированием привычек, и инструменты на базе ИИ, такие как фитнес-трекеры и умные часы, могут сыграть роль в достижении этих целей, предоставляя персонализированные данные и аналитику. В этой статье освещаются выгодные предложения на протестированное WIRED оборудование, включая наушники, фитнес-трекеры и планеры, которые могут помочь людям в выполнении их обещаний, используя технологии для отслеживания прогресса и поощрения последовательности.
В этой статье обобщена информация из различных источников, чтобы предоставить тщательно отобранный список рекомендованных фильмов, доступных в настоящее время на Netflix, охватывающих такие жанры, как драмы, комедии и триллеры. В ней выделены конкретные фильмы, такие как "Спокойной ночи и удачи: Прямой эфир с Бродвея" и "Окча", предлагаются краткие обзоры и контекст для каждого выбора.
Google не рекомендует создавать «контент небольшого объема», оптимизированный для LLM, таких как Gemini, развенчивая SEO-миф о том, что такое форматирование улучшает рейтинг в поиске. Это руководство предполагает, что сосредоточение внимания на всестороннем, ориентированном на пользователя контенте остается лучшей стратегией для SEO, даже с ростом поисковых технологий на основе ИИ.
Новогодние обещания часто связаны с формированием привычек, и инструменты на базе ИИ, такие как фитнес-трекеры и умные часы, могут сыграть роль в достижении этих целей посредством анализа данных и персонализированной обратной связи. В этой статье освещаются выгодные предложения на протестированное WIRED оборудование, включая наушники, фитнес-трекеры и планеры, демонстрируя, как технологии могут помочь людям в выполнении их обещаний после "Дня бросающих".
Google не рекомендует создавать "контент на один укус", оптимизированный для LLM, таких как Gemini, опровергая SEO-миф о том, что это улучшает рейтинг в поиске. Эта рекомендация предполагает сосредоточение внимания на всестороннем контенте для читателей-людей, поскольку алгоритмы Google отдают приоритет пользовательскому опыту, а не AI-ориентированному форматированию.
В Южной Каролине, особенно в округе Спартанбург, наблюдается значительная вспышка кори: со вторника зарегистрировано 99 новых случаев, в результате чего общее число заболевших достигло 310, что связано с уровнем вакцинации ниже порога коллективного иммунитета в 95%. Быстрое распространение затрудняет работу органов здравоохранения по отслеживанию контактов и реализации эффективных карантинных мер, подчеркивая решающую роль вакцинации в предотвращении высококонтагиозных заболеваний.
Европейское космическое агентство (ESA) изучает возможность модернизации ракеты Ariane 6 для частичного повторного использования, что сигнализирует о сдвиге в сторону устойчивой космической транспортировки. Эта инициатива, осуществляемая в рамках программы "Boosters for European Space Transportation (BEST!)", отражает более широкие усилия по стимулированию инноваций и конкурентоспособности в европейской космической отрасли посредством технологий многоразовых ракет.
Discussion
Join the conversation
Be the first to comment