Como ya saben, la inteligencia artificial (IA) está de moda en estos días. Desde una perspectiva de mercado, sin duda ha adoptado la dinámica de una burbuja.
Y creo que el fabricante líder de chips de inteligencia artificial, Nvidia, está a punto de sufrir un duro golpe, lo que podría desencadenar una caída del mercado mucho más amplia a partir de mañana por la tarde, poco después de las 4 p. m.
Pero desde una perspectiva más amplia de IA, las noticias están llenas de historias sobre cómo máquinas con un enorme poder computacional y velocidades de procesamiento vertiginosas, con acceso a miles de millones de libros y documentos y la capacidad de aprender por sí mismas, están preparadas para apoderarse del mundo.
¿Es cierto? He estudiado la IA y su potencial durante años, por lo que tengo un conocimiento más profundo de la IA que el de cualquier persona que hable por teléfono.
De hecho, he pasado tiempo visitando la tercera supercomputadora no gubernamental más rápida del mundo (la computadora de inteligencia artificial HiPerGator de la Universidad de Florida) como parte de un proyecto para aplicar la superinteligencia generalizada y la inteligencia artificial a tareas de seguridad nacional.
¿Hasta qué punto está avanzada la IA? ¿Qué tan cerca está de alcanzar una paridad aproximada con la inteligencia humana? ¿Y qué peligros plantea para la humanidad?
Podemos simplemente desconectar el suministro, al menos por ahora
Los investigadores imaginan ahora máquinas que cobran vida propia y atacan a los humanos y a la civilización, pero es importante recordar que si la máquina se vuelve loca, simplemente hay que desconectarla.
Los defensores de la capacidad de la IA afirman que desconectarla no funcionará porque la IA anticipará esa estrategia y se “exportará” a otra máquina en un escenario de “atrápame si puedes” en el que deshabilitar una ubicación no impedirá que el código y los algoritmos aparezcan en otros lugares y sigan atacando.
Tal vez, pero esto conlleva todo tipo de problemas logísticos, entre ellos la disponibilidad de suficientes máquinas con la capacidad de procesamiento necesaria, el hecho de que es probable que las máquinas alternativas estén rodeadas de cortafuegos y fosos digitales y una serie de problemas de configuración e interoperabilidad.
Por ahora, podemos simplemente desconectarlo. De hecho, se están proponiendo varias salvaguardas para limitar el daño potencial de la IA y, al mismo tiempo, aprovechar sus enormes beneficios.
Este no es un artículo técnico, pero estas salvaguardas incluyen transparencia (para que terceros puedan identificar fallas), supervisión, una forma debilitada de entrenamiento adversarial (para que la máquina pueda resolver problemas sin conspirar contra nosotros en su tiempo libre), modificación basada en aprobación (la máquina tiene que “pedir permiso” antes de activar el aprendizaje automático autónomo), modelado recursivo de recompensas (la máquina solo se mueve en ciertas direcciones donde recibe una “palmadita en la cabeza” de los humanos) y otras herramientas similares.
Por supuesto, ninguna de estas salvaguardas funciona si el poder detrás de la IA es maligno y realmente quiere destruir a la humanidad. Eso sería como poner armas atómicas en manos de un Adolf Hitler desesperado. Sabemos lo que habría sucedido después.
James Bond con IA
La solución en ese caso tendría una orientación más política, forense y de defensa. La recopilación de información de inteligencia desempeñaría un papel muy importante. Por supuesto, eso evoluciona rápidamente hacia una guerra de recopilación y engaño de información entre máquinas.
Imaginemos a James Bond con una hipercomputadora en lugar de una Walther PPK. La amenaza más inmediata que plantea la IA es menos grave, pero igualmente inquietante, especialmente para los inversores.
Los inversores deben tener cuidado al confiar en los sistemas GPT para obtener asesoramiento financiero, a pesar de su enorme capacidad de procesamiento. Los resultados nunca son mejores que los datos de entrada y los datos de entrada del mercado están plagados de modelos erróneos, suposiciones falsas, malos registros de pronósticos y sesgos.
Basura que entra, basura que sale.
Por ejemplo, ya se está programando la IA con una ideología progresista. Probablemente recuerdes el ridículo generador de imágenes Gemini de Google, respaldado por IA, que mostraba vikingos negros, papas mujeres y otras imágenes absurdas. Puedes imaginar el futuro distópico que podría crear una superinteligencia progresista.
Un año 1984 despertado
Probablemente estés familiarizado con la clásica novela distópica de George Orwell. Mil novecientos ochenta y cuatro; (a menudo se publica como 1984)Fue escrito en 1948; el título proviene de invertir los dos últimos dígitos en 1948.
Orwell creó un vocabulario original para su libro, gran parte del cual es de uso común, aunque sardónico, en la actualidad. Términos como Policía del Pensamiento, Gran Hermano, doblepensar, Neolengua y agujero de la memoria provienen de Mil novecientos ochenta y cuatro.
Orwell pretendía que fuera una advertencia sobre cómo podrían evolucionar ciertos países tras la Segunda Guerra Mundial y el comienzo de la Guerra Fría. Sin duda, le preocupaba el estalinismo, pero sus advertencias también se aplicaban a las democracias occidentales.
Cuando llegó y pasó el año calendario 1984, muchos suspiraron aliviados porque la profecía de Orwell no se había cumplido. Pero ese suspiro de alivio fue prematuro. La sociedad de pesadilla de Orwell está aquí hoy en la forma de la China comunista.
1984 llega a China
China posee la mayor parte de los aparatos de las sociedades totalitarias descritas en el libro de Orwell. China está trabajando intensamente en la inteligencia artificial, mientras utiliza software de reconocimiento facial y vigilancia digital ubicua para hacer un seguimiento de sus ciudadanos. Internet está censurada y vigilada. La policía del pensamiento de la vida real te arrestará por expresar opiniones opuestas al gobierno o sus políticas.
Si bien los peores excesos de China no sucederán en Estados Unidos ni en lo que hoy se considera Occidente, los aspectos menos extremos del estado de vigilancia de China sí podrían suceder.
Y aunque no te detengan por expresar opiniones impopulares o desafiar dogmas imperantes (al menos no todavía), podrías enfrentar otras sanciones. Incluso podrías perder tu trabajo y encontrarte casi imposible para encontrar otro. Piensa en la cultura de la cancelación.
Pero no se trata solo de China. El fundador de la aplicación de mensajería Telegram, Pavel Durov, acaba de ser arrestado en un aeropuerto de Francia. Es muy posible que el gobierno de Estados Unidos haya tenido algo que ver en el arresto, junto con la UE.
Las autoridades afirman que Telegram promovía la pornografía infantil y otros actos atroces, pero en realidad, Durov fue arrestado porque no accedió a las peticiones de los gobiernos occidentales de que censurara cierta información y puntos de vista, y porque no proporcionó a las autoridades información sobre los productores de ese contenido (Telegram ofrece a los productores opciones de cifrado).
Esa es la verdadera razón por la que arrestaron a Durov. ¿Será el próximo Elon Musk?
“Muéstrame al hombre y te mostraré el crimen”
Aquí en Estados Unidos, a muchos participantes conservadores de las redes sociales se les han cerrado o suspendido sus cuentas, no por amenazas o vulgaridad o por promover pornografía infantil, sino por críticas a opiniones “progresistas” (aunque sean críticas con algunos matices agudos).
Mientras tanto, quienes tienen opiniones progresistas pueden decir casi cualquier cosa en las redes sociales, incluido el respaldo implícito a la violencia, pero no pasa nada.
El problema es que la tendencia avanza muy rápidamente en esa dirección y es difícil detenerla. Y ya se han puesto en marcha sofisticadas tecnologías de vigilancia para controlar a los ciudadanos…
Por ejemplo, las cámaras con la última tecnología de vigilancia pueden detectar y comparar millones de rostros en tiempo real con una precisión de más del 99%. Se las promociona como herramientas antiterrorismo y anticrimen, lo que sin duda son.
Pero, como dijo el despiadado jefe de la policía secreta de Stalin, Lavrentiy Beria: “Muéstrenme al hombre y les mostraré el crimen”. Es fácil ver cómo se abusa de ese poder para atacar a los ciudadanos comunes.
(Por cierto, Beria finalmente demostraría su punto de vista, ya que más tarde fue arrestado y ejecutado por traición.)
Volviendo a la IA, el problema es que una vez que los malos actores comienzan a llenar la literatura con información engañosa y los sesgos de los desarrolladores se infiltran en el código, queda claro que la IA puede ser un instrumento de tiranía.
En definitiva, la IA es algo que hay que tener muy en cuenta y que deberíamos plantearnos preguntas importantes, pero no deberíamos preocuparnos de que se apodere del mundo en un futuro próximo.
Deberíamos más bien preocuparnos por no convertirnos en algo como la China comunista.
