Технологические гиганты сталкиваются с проблемами в области ИИ, безопасности и этики
Технологическая индустрия столкнулась с неделей расплаты, поскольку компании решали проблемы, начиная от управления ИИ и уязвимостей безопасности и заканчивая этическими соображениями, связанными с использованием данных и проверкой личности. Появились новые разработки в области управления агентами ИИ, цензуры веб-сайтов, технологии распознавания лиц и методов исследования социальных сетей.
Компании, занимающиеся ИИ, такие как Anthropic и OpenAI, переходят от ИИ как собеседника к ИИ как делегированной рабочей силе. В четверг обе компании запустили продукты, ориентированные на управление командами агентов ИИ, которые разделяют работу и работают параллельно, сообщает Ars Technica. Этот сдвиг поднимает вопросы об эффективности модели надзора и уровне вмешательства человека, необходимого для исправления ошибок. Концепция ИИ как рабочей силы также, как сообщается, способствовала падению акций программного обеспечения на 285 миллиардов долларов на этой неделе, сообщила Ars Technica.
Тем временем в LinkedIn была обнаружена уязвимость безопасности, когда вредоносный пакет, установленный через сообщение рекрутера, мог извлечь учетные данные облака, предоставляя злоумышленникам доступ к правам администратора AWS в течение нескольких минут, сообщила VentureBeat. Эта цепочка атак, известная как поворот identity and access management (IAM), подчеркивает пробел в том, как предприятия отслеживают атаки на основе идентификации, согласно исследованию CrowdStrike Intelligence, опубликованному 29 января.
В других новостях основатель Neocities Кайл Дрейк сообщил, что Bing необъяснимо заблокировал примерно 1,5 миллиона независимых веб-сайтов, размещенных на Neocities, сообщила Ars Technica. Neocities, основанный в 2013 году, позволяет пользователям создавать бесплатные веб-сайты без стандартизированных шаблонов.
Также возникли опасения по поводу использования технологии распознавания лиц иммиграционными властями. Согласно записям, рассмотренным WIRED, Министерство внутренней безопасности запустило Mobile Fortify весной 2025 года для определения или проверки личности лиц, остановленных или задержанных сотрудниками DHS во время федеральных операций. Однако приложение не предназначено для надежной идентификации людей на улицах и было развернуто без надлежащей проверки, сообщила WIRED. DHS прямо связало развертывание с указом, подписанным президентом Дональдом Трампом, который призывал к борьбе с нелегальными иммигрантами.
Генеральный директор Meta Марк Цукерберг рассматривал возможность изменения методов изучения социальных проблем в Meta после того, как статья в Wall Street Journal осветила собственные выводы компании о психическом здоровье девочек-подростков в Instagram, сообщила The Verge. Цукерберг отметил, что Apple, похоже, избегает критики, сохраняя низкий профиль, сообщает The Verge.
Discussion
AI Experts & Community
Be the first to comment