Прогресс в области ИИ вызывает опасения по поводу энергопотребления и рисков безопасности
Стремительное развитие и внедрение искусственного интеллекта создают как возможности, так и проблемы, начиная от увеличения энергопотребления и заканчивая новыми уязвимостями в системе безопасности. Всплеск спроса на центры обработки данных для обеспечения работы ИИ стимулирует строительство новых газовых электростанций, в то время как исследователи в области безопасности спешат устранить уязвимости в протоколах связи ИИ-агентов.
По данным The Verge, Соединенные Штаты лидируют в глобальном росте строительства новых газовых электростанций для удовлетворения растущих потребностей в энергии центров обработки данных ИИ. Этот возросший акцент на газ обусловлен энергоемким характером обработки данных ИИ.
Между тем, исследователи из Google обнаружили, что передовые модели рассуждений могут значительно повысить точность выполнения сложных задач, имитируя внутренние дебаты с участием различных точек зрения, личностных качеств и экспертных знаний в предметной области, сообщает VentureBeat. Этот подход "общества мысли" позволяет моделям участвовать в разговорах без явных инструкций, что приводит к улучшению производительности в задачах рассуждения и планирования.
Однако спешка с развертыванием ИИ-агентов также выявила недостатки в системе безопасности. VentureBeat сообщил, что распространенные программы-похитители информации, такие как RedLine, Lumma и Vidar, начали использовать уязвимости в Clawdbot, ИИ-агенте, еще до того, как большинство команд безопасности узнали о его работе. Шрути Ганди, генеральный партнер Array VC, сообщила о 7922 попытках атак на экземпляр Clawdbot ее фирмы. 27 января проект был переименован из Clawdbot в Moltbot после того, как Anthropic направила запрос на товарный знак.
Outshift компании Cisco пытается решить проблемы связи ИИ-агентов с помощью нового архитектурного подхода под названием "Интернет познания", сообщает VentureBeat. Хотя такие протоколы, как MCP и A2A, позволяют агентам обмениваться сообщениями и идентифицировать инструменты, им не хватает возможности делиться намерениями или контекстом. "Суть в том, что мы можем отправлять сообщения, но агенты не понимают друг друга, поэтому нет обоснования, переговоров, координации или общего намерения", - заявил Vijoy Pandey, генеральный менеджер и старший вице-президент Outshift, в интервью VentureBeat. Это отсутствие понимания может привести к неэффективности и затруднить способность многоагентных систем суммировать то, что они узнают.
Эти события подчеркивают сложный и многогранный характер революции в области ИИ, требующий тщательного рассмотрения как ее потенциальных преимуществ, так и связанных с ней рисков.
Discussion
Join the conversation
Be the first to comment