Apenas unos días después de que OpenAI anunciara la formación de su nuevo Comité de Seguridad, los ex miembros de la junta directiva Helen Toner y Tasha McCauley acusaron públicamente al director ejecutivo Sam Altman de priorizar las ganancias sobre el desarrollo responsable de la IA, ocultar desarrollos clave a la junta directiva y fomentar un ambiente tóxico en la empresa.

Pero los actuales miembros de la junta directiva de OpenAI, Bret Taylor y Larry Summers, respondieron hoy con una sólida defensa de Altman, contrarrestando las acusaciones y diciendo que Toner y McCauley están tratando de reabrir un caso cerrado. El argumento se desarrolló en un par de artículos de opinión publicados en El economista.

Los ex miembros de la junta despedido primeroargumentando que la junta directiva de OpenAI no pudo controlar a su director ejecutivo.

“En noviembre pasado, en un esfuerzo por salvar esta estructura autorreguladora, la junta directiva de OpenAI despidió a su CEO”, escribieron el 26 de mayo Toner y McCauley, quienes desempeñaron un papel en el derrocamiento de Altman el año pasado. “En el caso específico de OpenAI, dada la “El deber de la junta directiva es proporcionar supervisión independiente y proteger la misión de interés público de la empresa, respaldamos la acción de la junta directiva”.

en su publicado En respuesta, Bret Taylor y Larry Summers, quienes se unieron a OpenAI después de que Toner y McCauley dejaron la compañía, defendieron a Altman, desestimando los reclamos y afirmando su compromiso con la seguridad y la gobernanza.

“No aceptamos las afirmaciones hechas por la Sra. Toner y la Sra. McCauley con respecto a los eventos en OpenAI”, escribieron. “Lamentamos que la Sra. Toner continúe revisando temas que fueron examinados minuciosamente por la revisión dirigida por WilmerHale en lugar de seguir adelante. .”

Si bien Toner y McCauley no citaron al nuevo Comité de Seguridad de la compañía, su carta hizo eco de las preocupaciones de que OpenAI no podía controlarse de manera creíble y su director general.

“Basándonos en nuestra experiencia, creemos que el autogobierno no puede resistir de manera confiable la presión de los incentivos a las ganancias”, escribieron. “También creemos que los acontecimientos desde que regresó a la empresa, incluido su reintegro a la junta directiva y la partida del alto nivel de seguridad -Talento centrado en el talento: es un mal augurio para el experimento OpenAI en autogobierno”.

Los ex miembros de la junta dijeron que los “patrones de comportamiento de larga data” de Altman dejaron a la junta directiva de la empresa incapaz de supervisar adecuadamente “decisiones clave y protocolos de seguridad internos”. Los colegas actuales de Altman, sin embargo, señalaron las conclusiones de una revisión independiente del conflicto encargado por la empresa.

“Los hallazgos de la revisión rechazaron la idea de que cualquier tipo de preocupación por la seguridad de la IA requiriera el reemplazo del Sr. Altman”, escribieron, “de hecho, WilmerHale encontró que la decisión de la junta anterior no surgió de preocupaciones sobre la seguridad del producto, el ritmo de desarrollo, las finanzas de OpenAI o sus declaraciones a inversores, clientes o socios comerciales “.

Quizás lo más preocupante es que Toner y McCauley también acusaron a Altman de fomentar una cultura empresarial venenosa.

“Varios altos líderes habían compartido en privado graves preocupaciones con la junta, diciendo que creían que el Sr. Altman cultivaba ‘una cultura tóxica de mentira’ y participaba en ‘comportamientos (que) pueden caracterizarse como abuso psicológico”.

Pero Taylor y Summers refutaron sus afirmaciones y dijeron que sus empleados tienen en alta estima a Altman.

“En seis meses de contacto casi diario con la empresa, hemos encontrado al Sr. Altman muy comunicativo en todos los temas relevantes y consistentemente colegiado con su equipo directivo”, dijeron.

Taylor y Summers también dijeron que Altman estaba comprometido a trabajar con el gobierno para mitigar los riesgos del desarrollo de la IA.

El intercambio público se produce en medio de una era turbulenta para OpenAI que comenzó con su breve destitución. Este mismo mes, su exjefe de alineación se unió a la empresa rival Antropic después de formular acusaciones similares contra Altman. Tuvo que retroceder un modelo de voz. sorprendentemente similar al de la actriz Scarlett Johansson después de no haber obtenido su consentimiento. La empresa desmantelado su equipo de superalineación, y se reveló que NDA abusivos impidió a los ex empleados criticar a la empresa.

OpenAI también ha asegurado trata con el Departamento de Defensa utilizar la tecnología GPT para aplicaciones militares. Mientras tanto, el importante inversor de OpenAI, Microsoft, también habría hizo arreglos similares que involucra ChatGPT.

Las afirmaciones compartidas por Toner y McCauley parecen consistentes con declaraciones compartidas por ex investigadores de OpenAI que Deja la compañia Jan Leike dicho que “en los últimos años, la cultura y los procesos de seguridad (en OpenAI) han pasado a un segundo plano frente a los productos brillantes” y que su equipo de alineación estaba “navegando contra el viento”.

Taylor y Summers abordaron parcialmente estas preocupaciones en su columna citando el nuevo comité de seguridad y su responsabilidad “de hacer recomendaciones a la junta completa sobre asuntos relacionados con decisiones críticas de seguridad para todos los proyectos OpenAI”.

Toner ha intensificado recientemente sus afirmaciones sobre la falta de transparencia de Altman.

“Para dar una idea del tipo de cosas de las que estoy hablando, cuando ChatGPT salió en noviembre de 2022, la junta no fue informada con anticipación”, dijo. reveló en el podcast TED AI Show a principios de esta semana. “Conocimos ChatGPT en Twitter”.

También dijo que la junta de OpenAI no sabía que Altman era dueño del OpenAI Startup Fund, a pesar de sus afirmaciones de falta de participación financiera en OpenAI. El fondo invirtió millones recaudados de socios como Microsoft en otros negocios, sin el conocimiento de la junta. Propiedad de Altman del fondo fue despedido en abril.

OpenAI no respondió a una solicitud de comentarios de Descifrar.

Editado por Ryan Ozawa.

Generalmente inteligente Boletin informativo

Un viaje semanal de IA narrado por Gen, un modelo de IA generativa.

Fuente