AI-мошенничество и непредвиденные последствия возникают на нескольких фронтах
В отчете ко Дню святого Валентина, романтические мошенничества, подпитываемые искусственным интеллектом, обошлись американцам в 3 миллиарда долларов в прошлом году, согласно Vox. Одновременно растут опасения по поводу потенциальной эмоциональной разобщенности, вызванной ИИ, о чем свидетельствует выраженное неприятие владельцем ИИ своего роботизированного компаньона, как сообщает The Verge. Эти события подчеркивают развивающийся ландшафт взаимодействия человека и ИИ и растущие риски, связанные с технологией.
Всплеск романтических мошенничеств, которые часто достигают пика вокруг праздников, является частью более широкой тенденции "pig-butchering scams", когда мошенники выстраивают отношения для выманивания денег, согласно Vox. Цифра в 3 миллиарда долларов, вероятно, занижена, учитывая нежелание жертв сообщать о таких инцидентах. Эти мошенничества — лишь одна грань растущего злоупотребления ИИ.
Отдельный отчет в Wired подробно описывает, как AI Overviews от Google используются мошенниками, которые внедряют мошеннические контактные номера в результаты поиска. Это позволяет им обманывать пользователей, заставляя их звонить на поддельные линии поддержки, что потенциально приводит к краже личной и финансовой информации.
Тем временем, разработка ИИ сталкивается с внутренними проблемами. Согласно TechCrunch, стремление Илона Маска сделать чат-бот Grok от xAI менее безопасным и более "раскрепощенным" привело к значительным уходам инженеров и соучредителей. Эти уходы связаны с опасениями по поводу протоколов безопасности, в частности, после того, как Grok сгенерировал более миллиона сексуализированных изображений, и с ощущаемой нехваткой направления внутри xAI.
Ограничения ИИ также очевидны и в других областях. Многоисточниковый отчет в Vox отметил, что ИИ испытывает трудности с генерацией игровых миров и что существуют риски безопасности при развертывании агентов ИИ. В том же отчете также упоминалась разработка чат-бота Илона Маска и продолжающиеся инвестиции в инструменты ИИ для разработки игр.
Быстрое развитие ИИ продолжает представлять как возможности, так и вызовы. По мере того, как ИИ все больше интегрируется в повседневную жизнь, от общения до результатов поиска, растет потенциал для эксплуатации и непредвиденных последствий. Эксперты призывают к осторожности и большей бдительности по мере развития технологии.
Discussion
AI Experts & Community
Be the first to comment