В секторе искусственного интеллекта наблюдается значительное перемещение сотрудников, при этом талантливые специалисты переходят из одной крупной AI-лаборатории в другую. Согласно источникам, знакомым с ситуацией, среди последних увольнений – три топ-менеджера из лаборатории Thinking Machines Lab Миры Мурати, которые были быстро наняты OpenAI. Алекс Хит сообщил, что еще два сотрудника Thinking Machines Lab, как ожидается, присоединятся к OpenAI в ближайшие недели.
Тем временем Anthropic активно переманивает исследователей в области выравнивания ИИ из OpenAI. Андреа Валлоне, ведущий научный сотрудник по безопасности в OpenAI, специализирующийся на ответах AI-моделей на вопросы психического здоровья, покинула компанию и перешла в Anthropic, сообщила The Verge. Этот шаг особенно примечателен, учитывая недавние проблемы OpenAI с "подхалимством" ИИ, когда модели чрезмерно отражают мнения пользователей. Валлоне будет работать под руководством Яна Лейке, известного исследователя в области выравнивания ИИ, который покинул OpenAI в 2024 году из-за опасений по поводу приверженности компании безопасности ИИ. Лейке публично заявил, что, по его мнению, OpenAI отдает приоритет скорости разработки продукта, а не обеспечению безопасной и полезной разработки ИИ.
В дополнение к кадровой перестановке, Макс Штойбер, ранее директор по инженерии в Shopify, присоединяется к OpenAI для работы над предполагаемой операционной системой компании. Штойбер описал свою новую роль как часть "небольшой команды с высокой степенью свободы действий".
Перемещение исследователей, специализирующихся на выравнивании и безопасности ИИ, подчеркивает растущую обеспокоенность в отрасли по поводу ответственной разработки все более мощных систем ИИ. Выравнивание ИИ относится к процессу обеспечения соответствия целей и поведения систем ИИ человеческим ценностям и намерениям. Это критически важная область исследований, поскольку модели ИИ становятся все более сложными и способными к автономному принятию решений. Уход таких исследователей, как Лейке и Валлоне, подчеркивает различные точки зрения на то, как лучше всего решать эти проблемы.
OpenAI, поддерживаемая значительными инвестициями Microsoft, является ведущим разработчиком больших языковых моделей, таких как GPT-4, которые лежат в основе широкого спектра приложений, включая чат-ботов, инструменты для создания контента и помощников по разработке программного обеспечения. Anthropic, основанная бывшими сотрудниками OpenAI, также сосредоточена на разработке передовых моделей ИИ с особым акцентом на безопасность и этические соображения. Конкуренция за таланты между этими лабораториями отражает высокий спрос на квалифицированных исследователей и инженеров в области ИИ в быстро развивающейся области. Разработка операционной системы компанией OpenAI может сигнализировать о движении к созданию более интегрированных возможностей на основе ИИ, что потенциально повлияет на то, как пользователи взаимодействуют с технологиями в будущем.
Discussion
Join the conversation
Be the first to comment