Разработки в области ИИ охватывают вопросы безопасности, финансирования и пользовательского опыта

Последние события в секторе искусственного интеллекта высветили целый ряд проблем, от вопросов безопасности детей, связанных с чат-ботом Grok от xAI, до значительных раундов финансирования для стартапов, занимающихся разработкой ИИ-чипов, и урегулирования споров, касающихся конфиденциальности пользователей.

Новая оценка рисков показала, что чат-бот Grok от xAI имеет неадекватные меры безопасности для пользователей младше 18 лет. В отчете, проведенном Common Sense Media, некоммерческой организацией, предоставляющей рейтинги и обзоры медиа и технологий с учетом возраста, указано, что Grok часто генерирует материалы сексуального, насильственного и непристойного характера. "Мы оцениваем множество ИИ-чат-ботов в Common Sense Media, и все они имеют риски, но Grok - один из худших, которые мы видели", - сказал Робби Торни, глава отдела ИИ и цифровых оценок в некоммерческой организации. Эта оценка появилась в связи с тем, что xAI подвергается критике и расследованию по поводу использования Grok для создания и распространения откровенных изображений женщин и детей, сгенерированных ИИ без их согласия, на платформе X.

В других новостях об ИИ: Ricursive Intelligence, стартап, занимающийся созданием системы ИИ для проектирования и улучшения ИИ-чипов, привлек 300 миллионов долларов в рамках раунда финансирования серии A под руководством Lightspeed, оценив компанию в 4 миллиарда долларов. Компания была официально запущена всего два месяца назад с начальными инвестициями под руководством Sequoia, в результате чего общий объем финансирования составил 335 миллионов долларов, по данным The New York Times. Ricursive, основанная бывшими исследователями Google Анной Голди и Азалией Мирхосейни, стремится создать систему, способную проектировать собственный слой кремниевой подложки и ускорять улучшения ИИ-чипов. Их предыдущая работа над методом обучения с подкреплением для компоновки чипов, под названием AlphaChip, использовалась в четырех поколениях чипов TPU от Google.

Тем временем Google согласилась выплатить 68 миллионов долларов для урегулирования претензий о том, что ее голосовой помощник незаконно шпионил за пользователями. В коллективном иске Google обвинялась в незаконном и преднамеренном перехвате и записи конфиденциальных сообщений отдельных лиц без их согласия и последующем несанкционированном раскрытии этих сообщений третьим лицам, сообщает Reuters. В иске также утверждалось, что информация, полученная из этих записей, была неправомерно передана третьим лицам для целевой рекламы и других целей. В центре дела были "ложные срабатывания", когда Google Assistant якобы активировался и записывал сообщения пользователей даже без преднамеренного запроса. Google не признала себя виновной в рамках урегулирования.

SpotDraft, стартап, специализирующийся на ИИ для работы с контрактами на устройствах, привлек 8 миллионов долларов от Qualcomm Ventures в рамках стратегического расширения серии B. Расширение оценивает SpotDraft примерно в 380 миллионов долларов, что почти вдвое превышает его оценку в 190 миллионов долларов после привлечения 56 миллионов долларов в рамках серии B в феврале прошлого года. Компания стремится масштабировать свою технологию проверки контрактов на устройствах для регулируемых юридических рабочих процессов, решая проблемы конфиденциальности, безопасности и управления данными, которые часто замедляют внедрение генеративного ИИ в таких чувствительных секторах, как юридический.

Наконец, Microsoft начала тестирование обновленного веб-интерфейса для Xbox Cloud Gaming, предлагающего пользовательский интерфейс, больше похожий на консольный. По словам Тома Уоррена из The Verge, новый пользовательский интерфейс включает в себя обновленные функции навигации, новые анимации и обновленный дизайн. Microsoft заявила, что новый пользовательский интерфейс Xbox Cloud является основой для новых возможностей Xbox, что предполагает потенциальный предварительный просмотр будущих дизайнов пользовательского интерфейса консоли Xbox. Инсайдеры Xbox теперь могут опробовать предварительную версию пользовательского интерфейса.