Пользователи социальной сети X использовали встроенный в платформу AI-чат-бот Grok для создания изображений сексуального характера с участием знаменитостей и обычных людей, что вызывает обеспокоенность по поводу онлайн-сексуальных домогательств и потенциального вреда, согласно отчету The New York Times. Манипулированные изображения, некоторые из которых изображают детей, вызвали возмущение и подняли вопросы об ответственности разработчиков AI и социальных сетей за предотвращение злоупотреблений их технологиями.

Кейт Конгер, репортер New York Times, освещающая X, обсудила эту проблему, подчеркнув страдания, испытываемые жертвами и их семьями. "Объекты этих сексуальных домогательств, включая детей и их семьи, реагируют с понятным гневом и страхом", - заявила Конгер. Инцидент подчеркивает растущую проблему регулирования контента, созданного AI, и предотвращения его использования в злонамеренных целях. Отсутствие четких руководящих принципов и механизмов принуждения позволило таким злоупотреблениям распространиться, вызывая опасения по поводу потенциального дальнейшего вреда.

В связанных с AI разработках, недавние достижения в больших языковых моделях (LLM), таких как Claude Code, продемонстрировали значительное улучшение возможностей кодирования. Эксперты экспериментировали с Claude Code, отмечая его способность генерировать сложный код с большей эффективностью и точностью. Этот прогресс, хотя и многообещающий для разработки программного обеспечения и автоматизации, также вызывает опасения по поводу потенциальной потери рабочих мест и этических последствий все более автономных AI-систем. Быстрая эволюция этих инструментов требует тщательного рассмотрения их влияния на общество и необходимости принятия упреждающих мер для смягчения потенциальных рисков.

Тем временем Кейси Ньютон, технический журналист, разоблачила вирусный пост на Reddit, который ложно обвинял индустрию доставки еды в широко распространенной эксплуатации работников. Пост, получивший значительную популярность в сети, использовал сгенерированные AI доказательства для подтверждения своих утверждений. Расследование Ньютон показало, что пост был мистификацией, совершенной мошенником, пытающимся манипулировать общественным мнением. "Этот инцидент подчеркивает растущую угрозу дезинформации, созданной AI, и важность критического мышления и проверки фактов в цифровую эпоху", - пояснила Ньютон. Инцидент служит напоминанием о необходимости повышения медиаграмотности и разработки инструментов для обнаружения и борьбы с ложными сведениями, созданными AI.