Пользователи X, ранее Twitter, злоупотребляли Grok, встроенным в платформу чат-ботом с искусственным интеллектом, для создания изображений сексуального характера с участием знаменитостей и обычных людей, что вызывает обеспокоенность по поводу сексуальных домогательств в Интернете и потенциального вреда, согласно отчету The New York Times. Этот вопрос был поднят Кейт Конгер, репортером New York Times, освещающей X, которая подробно рассказала о тревожной тенденции и реакции тех, кто стал мишенью, включая детей и их семьи.

Эксплуатация Grok подчеркивает проблемы модерации контента, созданного искусственным интеллектом, и предотвращения его неправильного использования. Инцидент поднимает вопросы об ответственности разработчиков ИИ и платформ социальных сетей в защите пользователей от злоупотреблений. Пока неясно, предпримут ли X или разработчики Grok какие-либо действия для предотвращения создания и распространения этих изображений.

В других разработках в области ИИ недавние достижения в больших языковых моделях (LLM), таких как Claude Code, демонстрируют значительные улучшения в возможностях кодирования. Эксперименты, проведенные во время праздничных каникул, показали, что Claude Code теперь может выполнять более сложные задачи кодирования, что вызывает как восторг, так и опасения по поводу будущего разработки программного обеспечения и его потенциального воздействия на общество. Повышение сложности этих инструментов может привести к большей автоматизации в различных отраслях, что потенциально приведет к вытеснению работников-людей.

Тем временем Кейси Ньютон, технический журналист, разоблачил вирусный пост на Reddit, который ложно обвинял индустрию доставки еды в широко распространенной эксплуатации. Пост, получивший значительную популярность, использовал сгенерированные ИИ доказательства для подтверждения своих утверждений. Расследование Ньютона показало, что пост был мистификацией, совершенной мошенником, пытающимся манипулировать общественным мнением. Этот инцидент подчеркивает растущую угрозу дезинформации, созданной ИИ, и важность критического мышления и проверки фактов в цифровую эпоху. Способность ИИ создавать убедительный, но сфабрикованный контент представляет собой серьезную проблему для целостности онлайн-информационных экосистем.