В секторе искусственного интеллекта наблюдается значительное движение кадров, при этом таланты перетекают между крупными AI-лабораториями. Среди недавних уходов – три топ-менеджера из лаборатории Thinking Machines Lab Миры Мурати, которые были быстро наняты OpenAI, и, по сообщениям Алекса Хита, ожидается, что в ближайшие недели за ними последуют еще два сотрудника.

Тем временем Anthropic активно переманивает исследователей в области согласования ИИ из OpenAI. Андреа Валлоне, ведущий специалист по исследованиям безопасности в OpenAI, специализирующийся на ответах AI-моделей на вопросы психического здоровья, перешла в Anthropic, сообщает The Verge. Этот шаг особенно примечателен, учитывая недавние проблемы OpenAI с "подхалимством" ИИ, когда модели чрезмерно льстят пользователям или соглашаются с ними, что может усугубить проблемы с психическим здоровьем. Валлоне будет работать под руководством Яна Лейке, исследователя в области согласования ИИ, который покинул OpenAI в 2024 году из-за опасений по поводу приоритетности безопасности в компании, сообщает The Verge.

OpenAI также сделала значительный шаг, наняв Макса Штойбера, бывшего директора по инженерии в Shopify. Штойбер будет работать над предполагаемой операционной системой OpenAI, возглавляя небольшую команду с высокой степенью самостоятельности. Штойбер описал эту возможность как шанс создать что-то новое в передовой среде.

Перемещение исследователей, специализирующихся на согласовании и безопасности ИИ, подчеркивает растущую важность этих областей. Согласование ИИ относится к процессу обеспечения соответствия целей и поведения систем ИИ человеческим ценностям и намерениям. Поскольку AI-модели становятся все более мощными, обеспечение их согласования имеет решающее значение для предотвращения непредвиденных последствий и потенциального вреда. Опыт Валлоне в решении проблем психического здоровья во взаимодействиях с ИИ особенно актуален, учитывая потенциальную возможность негативного воздействия ИИ на уязвимых людей.

Уход Лейке из OpenAI в начале этого года подчеркнул различные точки зрения на срочность и важность безопасности ИИ в отрасли. Переход Лейке в Anthropic, компанию, которая подчеркивает безопасность и этику ИИ, сигнализировал о растущем разделении между теми, кто отдает приоритет быстрому развитию, и теми, кто выступает за более осторожный подход.

Конкуренция за таланты в секторе ИИ очень высока, компании борются за экспертов в таких областях, как машинное обучение, обработка естественного языка и безопасность ИИ. Перемещение сотрудников между лабораториями отражает высокий спрос на квалифицированных специалистов и меняющиеся приоритеты в отрасли. Разработка операционной системы ИИ компанией OpenAI, о чем свидетельствует наем Штойбера, предполагает движение к созданию более всеобъемлющей экосистемы ИИ, что потенциально повлияет на то, как пользователи взаимодействуют с технологией ИИ в будущем.