Le secteur de l'intelligence artificielle connaît un mouvement important de personnel, avec un flux de talents entre les principaux laboratoires d'IA. Les départs récents incluent trois hauts dirigeants du Thinking Machines Lab de Mira Murati, qui ont été rapidement embauchés par OpenAI, et deux employés supplémentaires devraient suivre dans les semaines à venir, selon un reportage d'Alex Heath.

Parallèlement, Anthropic recrute activement des chercheurs en alignement d'OpenAI. Andrea Vallone, responsable principale de la recherche sur la sécurité chez OpenAI, spécialisée dans les réponses des modèles d'IA aux problèmes de santé mentale, a rejoint Anthropic, a rapporté The Verge. Cette décision est particulièrement notable compte tenu des récents problèmes d'"obséquiosité" de l'IA rencontrés par OpenAI, où les modèles flattent ou approuvent excessivement les utilisateurs, ce qui pourrait exacerber les problèmes de santé mentale. Vallone travaillera sous la direction de Jan Leike, un chercheur en alignement qui a quitté OpenAI en 2024 en raison de préoccupations concernant la priorité accordée par l'entreprise à la sécurité, selon The Verge.

OpenAI a également réalisé une embauche importante en recrutant Max Stoiber, anciennement directeur de l'ingénierie chez Shopify. Stoiber travaillera sur le système d'exploitation dont la rumeur court chez OpenAI, à la tête d'une petite équipe très autonome. Stoiber a décrit cette opportunité comme une chance de construire quelque chose de nouveau dans un environnement de pointe.

Le mouvement des chercheurs spécialisés dans l'alignement et la sécurité de l'IA souligne l'importance croissante de ces domaines. L'alignement de l'IA fait référence au processus visant à garantir que les objectifs et les comportements des systèmes d'IA sont alignés sur les valeurs et les intentions humaines. À mesure que les modèles d'IA deviennent plus puissants, il est essentiel de garantir leur alignement afin de prévenir les conséquences imprévues et les dommages potentiels. L'expertise de Vallone dans la résolution des problèmes de santé mentale dans les interactions avec l'IA est particulièrement pertinente, étant donné le potentiel de l'IA à avoir un impact négatif sur les personnes vulnérables.

Le départ de Leike d'OpenAI plus tôt cette année a souligné les différents points de vue sur l'urgence et l'importance de la sécurité de l'IA au sein de l'industrie. Le passage de Leike à Anthropic, une entreprise qui met l'accent sur la sécurité et l'éthique de l'IA, a signalé un fossé croissant entre ceux qui privilégient le développement rapide et ceux qui préconisent une approche plus prudente.

La concurrence pour les talents dans le secteur de l'IA est intense, les entreprises se disputant des experts dans des domaines tels que l'apprentissage automatique, le traitement du langage naturel et la sécurité de l'IA. Le mouvement des employés entre les laboratoires reflète la forte demande de professionnels qualifiés et l'évolution des priorités au sein de l'industrie. Le développement d'un système d'exploitation d'IA par OpenAI, comme l'indique l'embauche de Stoiber, suggère une évolution vers la création d'un écosystème d'IA plus complet, ce qui pourrait avoir un impact sur la façon dont les utilisateurs interagissent avec la technologie de l'IA à l'avenir.