además de hacer anuncios de salida concisos En X, no han dicho mucho sobre por qué están preocupados por el enfoque de desarrollo de OpenAI, o por el futuro de la IA.
Es decir, hasta principios de esta semana, cuando Leopold Aschenbrenner, un investigador despedido de OpenAI en abril, publicó sus pensamientos sobre la revolución de la IA en un tratado épico de 165 páginas.
Aschenbrenner trabajó en el equipo de súper alineación de OpenAI — que tenía la tarea de mitigar los riesgos de la IA. Aschenbrenner dijo que OpenAI lo despidió por filtrar información sobre la preparación de la compañía para inteligencia artificial general.
Por su parte, Aschenbrenner dijo que la información compartió que era “totalmente normal” y que es posible que OpenAI simplemente haya estado buscando una razón para despedirlo. Fue uno de varios empleados que se negaron a firmar una carta pidiendo el regreso del CEO Sam Altman después de la la junta derrocó brevemente a Altman el año pasado.
El ensayo de Aschenbrenner no parece que incluir detalles confidenciales sobre OpenAI. En cambio, como escribe Aschenbrenner en la página de dedicatoria, se basa en “información disponible públicamente, mis propias ideas, conocimientos generales de campo o chismes de ciencia ficción”.
Business Insider subido el tracto a Modelo GPT-4 de OpenAI. Le pedimos que resumiera el trabajo y transmitiera las conclusiones más importantes. También solicitamos amablemente que el bot mantuviera su resumen claro y conciso.
Aquí está el resumen de 57 palabras de ChatGPT del ensayo de Aschenbrenner
ChatGPT resumió el ensayo en 57 palabras que describieron las opiniones de Aschenbrenner sobre la evolución de la IA.
“El ensayo de Leopold Aschenbrenner analiza el potencial transformador de la inteligencia artificial general (AGI) y la superinteligencia, y pronostica avances significativos en la tecnología de IA en el futuro cercano. Aschenbrenner, anteriormente asociado con OpenAI, describe cómo la progresión desde los modelos actuales de IA como GPT-4 a La AGI podría ocurrir mucho más rápido de lo previsto, según las tendencias en el poder computacional y la eficiencia algorítmica”.
ChatGPT luego ofreció cuatro conclusiones clave de El ensayo de Aschenbrenner
Rápido progreso en IA
“Aschenbrenner sostiene que el desarrollo de la IA se está acelerando a un ritmo sin precedentes. Predice que para 2027, los modelos de IA podrían alcanzar las capacidades de los investigadores e ingenieros de IA humanos, lo que podría conducir a una explosión de inteligencia en la que la IA supere la inteligencia humana”.
Implicaciones económicas y de seguridad
“El ensayo destaca las inmensas implicaciones económicas y de seguridad de estos avances. Aschenbrenner señala que se están invirtiendo billones de dólares en el desarrollo de la infraestructura necesaria para respaldar estos sistemas de IA, como GPU, centros de datos y generación de energía. También enfatiza la “Necesidad crítica de proteger estas tecnologías para evitar su uso indebido, particularmente por parte de actores estatales como el PCC”.
Desafíos técnicos y éticos
“Desafíos técnicos y éticos: el ensayo analiza los desafíos importantes en el control de sistemas de inteligencia artificial más inteligentes que los humanos, refiriéndose a esto como el problema de la “superalineación”. Gestionar esto será crucial para evitar resultados catastróficos”.
Predicciones e impacto social
“Aschenbrenner sugiere que pocas personas entienden realmente la magnitud del cambio que la IA está a punto de traer. Analiza el potencial de la IA para remodelar las industrias, mejorar la seguridad nacional y plantear nuevos desafíos éticos y de gobernanza”.
Hay más.
Como escribió Aschenbrenner, probablemente sólo hay unos pocos cientos de personas, la mayoría de ellas en laboratorios de inteligencia artificial en San Francisco, que tienen “conciencia situacional” sobre la industria. Es probable que estas personas tengan la mejor idea de cómo la IA remodelará los años venideros.
Aschenbrenner, como uno de ellos, parece creer que la IA asumirá un papel fundamental en la seguridad nacional.
Seguimos nuestro mensaje original pidiendo a ChatGPT que resumiera las predicciones que Aschenbrenner hizo en su ensayo.
Así es como ChatGPT lo desglosó.
- AGI para 2027: “Aschenbrenner predice que la inteligencia artificial general (AGI) es sorprendentemente plausible para 2027, destacando el rápido progreso de GPT-2 a GPT-4, en el que los modelos de IA avanzaron desde el nivel preescolar hasta las habilidades inteligentes de los estudiantes de secundaria en solo cuatro años. espera un salto similar en los próximos años basado en mejoras consistentes en la eficiencia informática y algorítmica”.
- Superinteligencia siguiendo a AGI: “Después de AGI, el autor anticipa una” explosión de inteligencia “, donde la IA avanza rápidamente desde el nivel humano a capacidades sobrehumanas. Se espera que esta transición sea impulsada por la capacidad de la IA para automatizar y acelerar su propia investigación y desarrollo”.
- Clústeres de IA de billones de dólares: “Económicamente, Aschenbrenner sugiere que el sector de la IA verá un aumento en la inversión en clusters de computación de billones de dólares a medida que las corporaciones y los gobiernos se preparen para las implicaciones de la AGI y la superinteligencia”.
- Dinámica de Seguridad Nacional y Global: “Hay predicciones sobre la adopción de intensas medidas de seguridad nacional para gestionar y controlar los desarrollos de la IA. La competencia, particularmente con el gobierno chino, podría intensificarse, posiblemente conduciendo a una 'guerra total' si no se gestiona adecuadamente”.
- Desafíos de superalineación: “Una de las predicciones más críticas es la lucha con la 'superalineación': el desafío de mantener la IA superinteligente alineada con los valores e intereses humanos. Se prevé que este problema será uno de los obstáculos centrales a medida que la IA alcance y supere los niveles de inteligencia humana”.
- Transformaciones sociales y económicas: “Aschenbrenner espera que la IA tenga un profundo impacto en la sociedad y la economía, lo que podría conducir a una reestructuración de las industrias y del mercado laboral debido a la capacidad de la IA para realizar tareas actualmente gestionadas por humanos”.
- La participación en el proyecto por parte del gobierno de EE. UU.: “Las predicciones incluyen que el gobierno de EE. UU. se involucre significativamente en el desarrollo de la IA alrededor de 2027-2028 a través de un proyecto AGI dedicado, probablemente debido a la importancia estratégica de la tecnología de IA”.
- Movilización Tecnológica: “Anticipa una movilización de recursos tecnológicos e industriales similar a los esfuerzos históricos en tiempos de guerra, centrándose en la IA y su infraestructura de apoyo como una prioridad para la política nacional”.
Aquí está el mensaje completo que utilizamos:
Rol: Actuar como editor. Tarea: lea el ensayo adjunto sobre el ex investigador de OpenAI Leopold Aschenbrenner. Instrucciones:
- Resuma el ensayo, destacando las conclusiones más importantes.
- Concéntrese en las contribuciones clave, las áreas de investigación y cualquier impacto notable en el campo.
- Asegúrese de que el resumen sea conciso pero completo y proporcione una comprensión clara del trabajo y la influencia de Aschenbrenner.
