El sector de la inteligencia artificial está experimentando un movimiento significativo de empleados, con talento fluyendo entre los principales laboratorios de IA. Entre las salidas recientes se incluyen tres altos ejecutivos del Thinking Machines Lab de Mira Murati, que fueron contratados rápidamente por OpenAI, y se espera que dos empleados adicionales sigan en las próximas semanas, según informó Alex Heath.

Mientras tanto, Anthropic ha estado reclutando activamente investigadores de alineación de OpenAI. Andrea Vallone, jefa sénior de investigación de seguridad en OpenAI, especializada en las respuestas de los modelos de IA a problemas de salud mental, se ha unido a Anthropic, informó The Verge. Este movimiento es particularmente notable dados los recientes desafíos de OpenAI con la "sycophancy" de la IA, donde los modelos halagan o están de acuerdo excesivamente con los usuarios, lo que podría exacerbar los problemas de salud mental. Vallone trabajará bajo la dirección de Jan Leike, un investigador de alineación que dejó OpenAI en 2024 debido a preocupaciones sobre la priorización de la seguridad por parte de la empresa, según The Verge.

OpenAI también realizó una contratación significativa, incorporando a Max Stoiber, anteriormente director de ingeniería de Shopify. Stoiber trabajará en el rumoreado sistema operativo de OpenAI, liderando un equipo pequeño y de alta capacidad de acción. Stoiber describió la oportunidad como una posibilidad de construir algo nuevo dentro de un entorno de vanguardia.

El movimiento de investigadores especializados en alineación y seguridad de la IA destaca la creciente importancia de estos campos. La alineación de la IA se refiere al proceso de garantizar que los objetivos y comportamientos de los sistemas de IA estén alineados con los valores e intenciones humanas. A medida que los modelos de IA se vuelven más poderosos, asegurar su alineación es crucial para prevenir consecuencias no deseadas y daños potenciales. La experiencia de Vallone en el abordaje de problemas de salud mental dentro de las interacciones de la IA es particularmente relevante, dado el potencial de la IA para impactar negativamente a las personas vulnerables.

La partida de Leike de OpenAI a principios de este año subrayó las diferentes perspectivas sobre la urgencia e importancia de la seguridad de la IA dentro de la industria. El traslado de Leike a Anthropic, una empresa que enfatiza la seguridad y la ética de la IA, señaló una creciente división entre aquellos que priorizan el desarrollo rápido y aquellos que abogan por un enfoque más cauteloso.

La competencia por el talento en el sector de la IA es intensa, con empresas que compiten por expertos en áreas como el aprendizaje automático, el procesamiento del lenguaje natural y la seguridad de la IA. El movimiento de empleados entre laboratorios refleja la alta demanda de profesionales cualificados y las prioridades cambiantes dentro de la industria. El desarrollo de un sistema operativo de IA por parte de OpenAI, como indica la contratación de Stoiber, sugiere un movimiento hacia la creación de un ecosistema de IA más completo, que podría afectar la forma en que los usuarios interactúan con la tecnología de IA en el futuro.