Hace unos dos meses, el cofundador de Shield AI, Brandon Tseng, y uno de sus empleados estaban en un Uber recorriendo Kiev, Ucrania. Se dirigían a una reunión con oficiales militares para venderles sus sistemas piloto de inteligencia artificial y drones, cuando de repente su empleado le mostró una advertencia en su teléfono. Las bombas rusas estaban llegando. Tseng enfrentó su posible desaparición encogiéndose de hombros. “Si es tu momento de irte”, dijo, “entonces es tu momento de irte”.
En todo caso, Tseng, un ex Navy SEAL, estaba ansioso por más acción. Los empleados de Shield AI habían estado anteriormente en zonas mucho más peligrosas de Ucrania, entrenando tropas con su software y drones. “Estoy bastante celoso de adónde tienen que ir”, dijo Tseng. “Sólo desde el punto de vista de la aventura”.
Tseng encarna ese machismo silencioso que impregna a la mayoría de los fundadores de tecnología de defensa. Cuando lo conocí el mes pasado en la oficina de la compañía en Arlington, mostró un cuchillo exhibido en su oficina grabado con el lema SEAL “Sufre en silencio”. Las paredes blancas, cuya parte superior brillaba con luces fluorescentes (para que parecieran una nave espacial, dijo Tseng), estaban cubiertas con lemas como “Haz lo que dicta el honor” y “Gánate tu escudo todos los días”. Señalé que eran bastante intensos. “¿Lo son?” Respondió Tseng.
En 2015, Tseng fundó Shield AI junto con su hermano, Ryan Tseng, un ingeniero eléctrico con patente, con una misión clara: “Construimos el mejor piloto de IA del mundo”, dijo. “Quiero poner un millón de pilotos de IA en manos de los clientes”.
Para ello, él y su hermano han recaudado más de mil millones de dólares de inversores como Riot Ventures y el Fondo de Tecnología Innovadora de EE. UU. La compañía desarrolla software de inteligencia artificial para hacer que los vehículos aéreos sean autónomos, aunque Tseng dijo que también quieren el software de Shield AI en sistemas submarinos y de superficie. También cuenta con productos de hardware, como su dron V-BAT.
Shield AI también es parte de una clase poco común de nuevas empresas de tecnología de defensa: una que en realidad obtuvo contratos gubernamentales de tamaño decente, como su Contrato de 198 millones de dólares de la Guardia Costera este año. Como si intentaran posicionarse para un futuro aún mayor, los fundadores eligieron una nueva oficina rodeada por tres pisos de Raytheon, uno de los principales contratistas de defensa.
Ucrania: el laboratorio para las nuevas empresas de tecnología de defensa de EE. UU.
El 16 de septiembre fue una señal de los tiempos cambiantes: en lugar de hacer que los fundadores de tecnología de defensa volaran al Capitolio, se pusieran sus trajes y se humillaran ante los políticos, Washington, DC, acudió a ellos.
Los miembros del Comité de Servicios Armados de la Cámara de Representantes de los EE. UU. se reunieron con el CTO de Palantir, Shyam Sankar, Brandon Tseng y ejecutivos de Skydio, Applied Intuition y Saildrone en el campus de Silicon Valley de UC Santa Cruz. Discutieron la reforma de adquisiciones del Departamento de Defensa de Estados Unidos (DoD) y, inevitablemente, el papel de la tecnología estadounidense en Ucrania. fue el primero audiencia pública el comité ha celebrado fuera de Washington, DC, desde 2006.
Ucrania ha “sido un gran laboratorio”, dijo Tseng a los responsables políticos. “Lo que creo que los ucranianos han descubierto es que no van a utilizar nada que no funcione en el campo de batalla, punto”.
Fundadores de tecnología de defensa, como el cofundador de Anduril Palmer Luckey y Cofundador de Skydio Adam Brytodos han acudido en masa al asediado país para vender tecnología relativamente nueva para un campo de batalla en rápido deterioro. Desafortunadamente, no toda la tecnología estadounidense está funcionando. Según un Informe del Wall Street Journallos drones de nuevas empresas estadounidenses casi nunca han logrado operar mediante guerra electrónica en Ucrania, lo que significa que los drones dejan de funcionar bajo la tecnología de apagón GPS de Rusia.
“Ucrania está en guerra y están matando gente. Pero… quieres aprender esas lecciones”, me dijo Tseng una semana después, reflexionando sobre la audiencia. “No querrás tener que volver a aprender ninguna de esas lecciones. Estados Unidos no debería querer volver a aprender ninguna de esas lecciones”.
Naturalmente, confía en que a los drones de Shield AI les ha ido mejor en Ucrania que a otros porque, dice, pueden operar sin depender del GPS. “Estamos trabajando para llevar más drones allí en función de los éxitos que hemos tenido”, dijo, aunque se negó a nombrar detalles de cuántos drones ha enviado Shield AI.
¿Asesinos con IA tipo Terminator? ¿O “El juego de Ender”?
La oficina de la esquina de Tseng está vacía, además de una copia enmarcada de la Constitución, que cuelga torcida de la pared. Lo catalogó como una de sus mayores inspiraciones. “No es porque seamos perfectos, sino porque aspiramos a estos valores que yo diría que son valores perfectos”, dijo. “Eso es lo que más importa. Siempre estamos marchando en esa dirección”.
Enderezó el marco antes de repasar una historia abreviada de la guerra. La disuasión, dijo, tiende a ocurrir cuando surge una nueva tecnología radical, como la bomba atómica, o la tecnología furtiva y el GPS. La IA, afirmó, marcará el comienzo de una nueva era de disuasión, suponiendo que el Departamento de Defensa la financie adecuadamente. “Las empresas privadas están invirtiendo más dinero en IA y autonomía que cualquier cantidad agregada del presupuesto de defensa”, afirmó.
El valor potencial de los contratos federales relacionados con la IA se disparó a 4.600 millones de dólares en 2023 desde 335 millones de dólares en 2022, según un informe de la Institución Brookings. Pero eso sigue siendo una fracción de los más de 70 mil millones de dólares que los capitalistas de riesgo invirtieron en tecnología de defensa aproximadamente en el mismo período, según PitchBook.
Aún así, la cuestión más importante sobre el uso militar de la IA no es el presupuesto, sino la ética. Tanto los fundadores como los responsables políticos se debaten sobre la posibilidad de permitir armas completamente autónomas, lo que significa que la propia IA decide cuándo matar. Últimamente, la retórica de algunos fundadores parece estar a favor de la construcción de tales armas.
Hace unos días, por ejemplo, La suerte de Anduril Afirmó que muchos de nuestros adversarios están llevando a cabo “una campaña en la sombra en las Naciones Unidas” para engañar a los países occidentales para que no persigan agresivamente la IA. Dio a entender que la IA totalmente autónoma no era peor que las minas terrestres. Sin embargo, no mencionó que Estados Unidos se encuentra entre las más de 160 naciones que Acordó prohibir el uso de minas terrestres antipersonal. en la gran mayoría de lugares.
Tseng se opone firmemente a las armas totalmente autónomas. “Tuve que tomar la decisión moral de utilizar fuerza letal en el campo de batalla”, dijo. “Esa es una decisión humana y siempre será una decisión humana. Ese es el punto de vista de Shield AI. Ese es también el punto de vista del ejército estadounidense”.
Tiene razón en que el ejército estadounidense no compra actualmente armas totalmente autónomas, aunque no prohíbe a las empresas desarrollarlas. ¿Qué pasaría si Estados Unidos cambiara su punto de vista? “Creo que es una hipótesis loca”, respondió. “El Congreso no quiere eso. Nadie quiere eso”.
Entonces, si no prevé un ejército de asesinos tipo Terminator, ¿qué imagina? “Una sola persona podría comandar y controlar un millón de drones”, dijo Tseng. “No existe una limitación tecnológica sobre cuánto puede comandar eficazmente una sola persona en el campo de batalla”.
Será similar al “Juego de Ender”, dijo, haciendo referencia al clásico de ciencia ficción de 1985 en el que un niño oficial militar puede liberar legiones de ejércitos espaciales con un simple gesto de la mano.
“Excepto que en lugar de humanos reales a quienes él estaba comandando, serán malditos robots”, dijo Tseng.
