La inteligencia artificial está cada vez más presente en más áreas de nuestras vidas, sobre todo desde el lanzamiento de ChatGPT. Dependiendo de su punto de vista, es ese gran hombre del saco malo el que está quitando empleos y causando infracciones generalizadas de derechos de autor, o un regalo con el potencial de catapultar a la humanidad a una nueva era de iluminación.
Lo que muchos han logrado con la nueva tecnología, desde A mitad del viaje y LLM hasta algoritmos inteligentes y análisis de datos, va más allá de lo radical. Es una tecnología que, como la mayoría de los avances basados en el silicio que la precedieron, tiene mucha potencia detrás. Puede hacer mucho bien, pero también, como muchos temen, mucho mal. Y esos resultados dependen completamente de cómo se manipula, gestiona y regula.
No es sorprendente entonces, dada la rapidez con la que la IA se ha abierto paso en el espíritu de la época, que las empresas tecnológicas y sus equipos de ventas se estén inclinando igualmente hacia la tecnología, introduciendo sus diversas iteraciones en sus últimos productos, todo con el objetivo de animarnos a comprar sus productos. hardware.
Mira esto Nueva computadora portátil con IAesa placa base que utiliza IA para overclockear tu CPU al límite, esas nuevas cámaras web con tecnología de aprendizaje profundo de IA. Entiendes el punto. Usted sabe que desde Silicon Valley hasta Shanghai, los accionistas y ejecutivos de las empresas preguntan a sus equipos de marketing “¿Cómo podemos incorporar la IA a nuestros productos?” a tiempo para el próximo CES o el próximo Computex, sin importar cuán modesto sea el valor. realmente lo será para nosotros, los consumidores.
Mi mayor problema viene en forma de la última generación de CPU lanzadas por empresas como AMD, Intely Qualcomm. Ahora bien, estos no son malos productos, ni mucho menos. Qualcomm está dando grandes pasos en los mercados de chips para computadoras de escritorio y portátilesy el rendimiento de los últimos chips de Intel y AMD es impresionante. Generación tras generación, estamos viendo puntajes de rendimiento más altos, mejor eficiencia, conectividad más amplia, latencias más bajas y ahorros de energía ridículos (aquí te estamos mirando, Snapdragon), entre una gran cantidad de cambios y opciones de diseño innovadores. Para la mayoría de nosotros, simples mortales, es una magia que va mucho más allá de los 0 y 1 básicos.
A pesar de eso, todavía tenemos IA aplicada a todo, independientemente de si realmente está agregando algo útil a un producto o no. Agregamos nuevas unidades de procesamiento neuronal (NPU) a los chips, que son coprocesadores diseñados para acelerar operaciones de bajo nivel que pueden aprovechar la IA. Luego se colocan en computadoras portátiles de bajo consumo, lo que les permite utilizar funciones avanzadas de inteligencia artificial, como microsoft's Copiloto asistente para marcar esa casilla de verificación de IA, como si marcara la diferencia con una solución predominantemente basada en la nube.
Sin embargo, la cuestión es que el rendimiento de la CPU, cuando se trata de IA, es insignificante. Realmente insignificante, hasta el punto de que ni siquiera es levemente relevante. Es como intentar lanzar el telescopio espacial JWST de la NASA con una botella de Coca-Cola y unos Mentos.
¿El traje nuevo del emperador?
Pasé el último mes probando una serie de computadoras portátiles y procesadores, específicamente en lo que respecta a cómo manejan tareas y aplicaciones de inteligencia artificial. Usando el conjunto de pruebas Procyon de UL (creadores de la serie 3D Mark), puede ejecutar su prueba de inferencia de visión por computadora, y eso puede arrojarle un buen número, dándole una puntuación para cada componente. ¿Intel Core i9-14900K? 50. ¿AMD Ryzen 9 7900X? 56. 9900X? 79 (eso es un aumento de rendimiento del 41%, por cierto, generación tras generación, realmente enorme).
Sin embargo, aquí está la cuestión: someta una GPU a la misma prueba, como RTX 4080 Súper de Nvidiay obtiene una puntuación de 2.123. Eso es un aumento de rendimiento del 2,587% en comparación con el Ryzen 9 9900X, y eso ni siquiera se usa NVIDIAEl propio SDK de TensorRT, que obtiene una puntuación incluso más alta que esa.
El simple hecho del asunto es que la IA exige un rendimiento de procesamiento paralelo como ninguna otra cosa, y nada lo hace mejor que una tarjeta gráfica en este momento. Elon Musk lo sabe: acaba de instalarse 100.000 GPU Nvidia H100 en el último sistema de entrenamiento de IA de xAI. Esto equivale a más de mil millones de dólares en tarjetas gráficas en una sola supercomputadora.
Oscurecido por las nubes
Para colmo de males, la gran mayoría de las herramientas de inteligencia artificial populares hoy en día requieren la computación en la nube para funcionar completamente de todos modos.
LLM (modelos de lenguaje grande) como ChatGPT y Google Géminis requieren tanta potencia de procesamiento y espacio de almacenamiento que es imposible ejecutarlos en una máquina local. Incluso la tecnología de filtro inteligente Generative Fill y AI de Adobe en las últimas versiones de Photoshop requieren computación en la nube para procesar imágenes.
Simplemente no es factible ni posible ejecutar la gran mayoría de estos programas de inteligencia artificial que son tan populares hoy en día en la computadora de su hogar. Por supuesto, hay excepciones; Ciertas herramientas de generación de imágenes de IA son mucho más fáciles de operar en una sola máquina, pero aún así, es mucho mejor usar la computación en la nube para procesarlas en el 99% de los casos de uso.
La única gran excepción a esta regla es el escalado localizado y el supermuestreo. Cosas como DLSS de Nvidia y XeSS de Intel, e incluso en menor medida El propio FSR de AMD (aunque esto se basa predominantemente en modelos de aprendizaje profundo, aplicados mediante hardware de rasterización, lo que significa que no necesita componentes de IA) son ejemplos fantásticos de un buen uso de la IA localizada. De lo contrario, básicamente no tendrás suerte.
Aún así, aquí estamos. Otra semana, otra computadora portátil con tecnología de inteligencia artificial, otro chip de inteligencia artificial, mucho de lo cual, en mi opinión, equivale a mucho alboroto por nada.
