De Elon Musk La empresa de inteligencia artificial, xAI, presentó recientemente una nueva supercomputadora denominada ColosoY como su nombre lo indica, es grande.
La computadora es un sistema de entrenamiento de inteligencia artificial que, según Musk, funciona con la friolera de 100.000 Chips Nvidia H100una potente unidad de procesamiento de gráficos que se ha vuelto fundamental para el Carrera de IA.
Para ponerlo en perspectiva, Modelo de lenguaje grande de Meta Llama 3 Fue entrenado con 16.000 chips H100. Meta dijo en marzo que continuaría invirtiendo en su infraestructura de inteligencia artificial agregando dos nuevos grupos de 24.000 chips.
En otras palabras, el Coloso de Musk es poderoso y podría ayudar. Él se pondrá a la altura de los líderes de la industria de la IA.
Pero algunos líderes tecnológicos destacados no están tan seguros.
Cofundador de LinkedIn Reid Hoffman dijo a The Information, una publicación tecnológica, que la supercomputadora xAI era simplemente “una apuesta segura” en el campo competitivo de la IA generativa.
Según The Information, Hoffman significaba que Colossus solo permite que xAI se ponga al día a otras empresas de IA más avanzadas, como OpenAI y Anthropic.
Chris Lattnerel director ejecutivo de Modular AI, dijo durante un panel de discusión en la Cumbre de IA de The Information la semana pasada que la fuerte dependencia de Musk de los costosos y finitos chips de Nvidia también es incompatible con el esfuerzo del multimillonario de construir su propia GPU, llamado Dojoinformó The Information.
Meta, MicrosoftAlfabeto, y Amazonas Todos ellos están desarrollando sus propios chips de inteligencia artificial, aunque siguen acumulando GPU Nvidia.
“La diferencia es que Elon ha estado trabajando en Dojo durante muchos años”, dijo Lattner a Business Insider en un correo electrónico.
Musk ha expresado su preocupación por los desafíos que supone adquirir más de los codiciados chips de Nvidia y ha dicho que su proyecto Dojo ayudará a disminuir la dependencia de su compañía del fabricante de chips.
“Vemos un camino para ser competitivos con Nvidia con Dojo”, dijo Musk. Durante una conferencia telefónica sobre los resultados de Tesla en julio, dijo: “No tenemos otra opción”.
Al hablar de Colossus on X a principios de septiembre, Musk dijo que su objetivo es duplicar el tamaño de la supercomputadora a 200.000 chips en unos pocos meses.
Él dijo que el clúster se construyó en solo 122 días, una hazaña impresionante que ninguna otra empresa ha igualado, según The Information.
No está claro si Colossus ejecuta 100.000 GPU al mismo tiempo, lo que requeriría tecnología de red sofisticada y Mucha energía.
“Musk había dicho anteriormente que el clúster de 100.000 chips estaba en funcionamiento a finales de junio”, informó The Information. “Pero en ese momento, una empresa eléctrica local dijo públicamente que xAI solo tenía acceso a unos pocos megavatios de energía de la red local”.
Mes pasado, CNBC Informó que un grupo de defensa del medio ambiente se había quejado de que xAI estaba haciendo funcionar turbinas de gas para producir más energía para el centro de datos sin autorización.
El medio informó que el Centro de Derecho Ambiental del Sur escribió en una carta al departamento de salud local que xAI había instalado y estaba operando al menos 18 turbinas sin permiso “y potencialmente había más en camino” para complementar sus enormes necesidades energéticas.
La empresa de servicios públicos local, Memphis Light, Gas and Water, dijo a CNBC que ha proporcionado 50 megavatios de energía a xAI desde principios de agosto, pero que la instalación requiere 100 megavatios adicionales para funcionar.
Desarrolladores de clústeres de datos Musk dijo a The Information que esto sólo podría alimentar unos pocos miles de GPU. La compañía de Musk necesitaría otra subestación eléctrica para obtener suficiente energía para hacer funcionar 100.000 chips.
Hoffman y Musk no respondieron de inmediato a las solicitudes de comentarios de Business Insider.
