OpenAI está disolviendo el equipo responsable de asesorar a la startup sobre qué tan preparado está el mundo para niveles más altos de inteligencia artificial.
Miles Brundage, jefe del equipo “AGI Readiness” de OpenAI, dejará la empresa esta semana, dijo en un Publicación de subpila El miércoles. Brundage dijo que planea iniciar una organización sin fines de lucro o unirse a una existente centrada en la investigación de políticas de IA. Un subequipo de investigación económica se trasladará bajo el nuevo economista jefe de OpenAI, Ronnie Chatterji, dijo Brundage, mientras que otros miembros serán reasignados a otros equipos.
El asesor senior saliente dijo que ni el fabricante de ChatGPT ni otros laboratorios de IA de vanguardia están preparados para AGI, o inteligencia artificial general, que es considerada inteligencia a nivel humano. Parte de la razón para iniciar o unirse a una organización sin fines de lucro, dijo Brundage, es porque “creo que es poco probable que la IA sea lo más segura y beneficiosa posible sin un esfuerzo concertado para que lo sea”.
Brundage calificó su función de asesor como “esencialmente el trabajo de mis sueños”, pero dijo que quiere “dedicar más tiempo a trabajar en cuestiones que afectan a toda la industria de la IA, tener más libertad para publicar y ser más independiente”.
Una de sus principales razones para irse son los altos costos de oportunidad debido al perfil masivo de OpenAI y su sensación de que su trabajo “tendría más impacto” fuera de la industria de la IA. Brundage también dijo que quiere “ser menos parcial” y que ha “hecho gran parte de lo que me propuse en OpenAI”.
“Apoyamos plenamente la decisión de Miles de realizar su investigación de políticas fuera de la industria y estamos profundamente agradecidos por sus contribuciones”, dijo un portavoz de OpenAI en un comunicado compartido con Quartz. “Su plan de apostar por la investigación independiente sobre políticas de IA le brinda la oportunidad de tener un impacto a una escala más amplia, y estamos entusiasmados de aprender de su trabajo y seguir su impacto. Estamos seguros de que en su nuevo cargo, Miles seguirá elevando el listón de la calidad de la formulación de políticas en la industria y el gobierno”.
En mayo, OpenAI disolvió su equipo de “superalineación”que se centró en los peligros existenciales de la IA. El cofundador y ex científico jefe de OpenAI, Ilya Sutskever, y Jan Leike, cofundador de su equipo de superalineación, renunciaron a la startup de IA ese mes.
Mira Murati, ex directora de tecnología de la compañía, anunció su salida de la empresa en septiembre y fue seguido por Bob McGrew, director de investigación de OpenAI, y Barret Zoph, vicepresidente de investigación.
Una semana después de las renuncias, OpenAI completó una Ronda de financiación de 6.600 millones de dólareslo que lleva a una valoración de 157 mil millones de dólares. Según se informa, la startup también está trabajando en un plan para reestructurar su estatus sin fines de lucrolo que podría darle al director ejecutivo Sam Altman acciones importantes.
