La interrupción masiva de TI que sacudió a empresas de todo el mundo pone de relieve cuán profundamente entrelazados están la sociedad y los sistemas que la impulsan con las grandes tecnológicas, y cómo un solo paso en falso puede desencadenar un caos generalizado.
También expone la fragilidad de esos sistemas y plantea la pregunta: ¿Merecen las grandes tecnológicas nuestra confianza para salvaguardar adecuadamente una tecnología tan poderosa como la IA?
El Se produjo un problema de software. Una actualización de la empresa de ciberseguridad CrowdStrike El viernes, Microsoft sufrió una interrupción del servicio informático que afectó a aerolíneas, bancos, minoristas, servicios de emergencia y proveedores de atención médica en todo el mundo. Según CrowdStrike, se implementó una solución de software, pero muchos sistemas seguían sin conexión el viernes mientras las empresas luchaban por volver a poner en línea sus servicios, algunos de los cuales requerían actualizaciones manuales.
Gary Marcusinvestigador de IA y fundador de Geometric Intelligence, una startup de IA de aprendizaje automático adquirida por Uber en 2016, dijo a Business Insider que la interrupción del servicio de Microsoft-CrowdStrike debería ser una “llamada de atención” para los consumidores, y que el impacto de un problema similar con IA sería diez veces mayor.
“Si un solo error puede acabar con aerolíneas, bancos, minoristas, medios de comunicación y más, ¿qué demonios te hace pensar que estamos preparados para la IA general?” Marcus escribió en una publicación en X.
AGI, también conocida como inteligencia general artificial, es un término para una versión de IA que puede lograr capacidades humanas como razonamiento y juicio. John Schulman, cofundador de OpenAI Anteriormente se había predicho que esto ocurriría en sólo unos pocos años.
Marcus, quien ha criticado a OpenAI en el pasado, dijo a BI que esto podría resultar problemático con los sistemas actuales y que los consumidores están entregando enormes cantidades de poder a las grandes empresas tecnológicas y a la IA.
Dan O'Dowd, fundador del grupo de defensa de la seguridad The Dawn Project, ha hecho campaña contra los sistemas de conducción autónoma de Tesla. Dijo a BI que la situación con CrowdStrike y Microsoft es un recordatorio de que las infraestructuras críticas no son lo suficientemente seguras ni fiables. Dijo que las grandes empresas tecnológicas evalúan los sistemas en función de si funcionan “bastante bien la mayor parte del tiempo”, porque hay prisa por sacar los productos al mercado.
Algo de esto ya ha quedado claro en el ámbito de la IA.
Empresas de todo el mundo han lanzado una avalancha de productos de IA y ofertas en los últimos seis meses, algunas de las cuales han comenzado a transformar la forma en que trabaja la gente. Pero los modelos de IA, que son propensos a las alucinaciones, también han arrojado algunos errores muy publicitados en el camino, como las descripciones generales de IA de Google, que les dijo a los usuarios que comieran pizza con pegamento, o las representaciones inexactas de personajes históricos que hace Géminis.
Las empresas también se han turnado para anunciar nuevos productos llamativos y luego retrasarlos o cancelarlos porque no estaban preparados, o cuando los lanzamientos públicos revelan problemas. OpenAI, Microsoft, Google y Adobe han cancelado o retrasado sus ofertas de IA este año, a medida que la carrera de la IA se intensifica.
Si bien algunos de estos errores o retrasos en los productos pueden no parecer un gran problema, los riesgos potenciales podrían ser más graves a medida que avanza la tecnología.
El Departamento de Estado de Estados Unidos encargó un informe de evaluación de riesgos sobre la IA, que se publicó a principios de este año. El informe indicó La IA plantea un alto riesgo de ser utilizada como arma. que podrían adoptar la forma de guerra biológica, ciberataques masivos, campañas de desinformación o robots autónomos. Los resultados podrían conducir a “riesgos catastróficos”, incluida la extinción humana, según el informe.
Javad Abed, profesor adjunto de sistemas de información en la Carey Business School de Johns Hopkins, dijo a Business Insider que incidentes como el corte de servicio de Microsoft-CrowdStrike siguen ocurriendo porque las empresas aún consideran la ciberseguridad como un “costo en lugar de una inversión necesaria”. Dijo que las grandes empresas tecnológicas deberían tener proveedores alternativos y una estrategia de defensa de múltiples capas.
“Invertir un millón de dólares adicionales en un aspecto tan crítico de la ciberseguridad es mucho más prudente que afrontar la posible pérdida de millones más adelante”, afirmó Abed. “Además de los daños continuos a la reputación y la confianza de los clientes”.
La confianza pública en las instituciones ha Disminuyó constantemente Según un estudio de 2023 de la Brookings Institution, una organización sin fines de lucro dedicada a las políticas públicas, la pérdida de confianza ha disminuido en los últimos cinco años. Esta erosión de la confianza es particularmente pronunciada en el sector tecnológico. Las grandes empresas tecnológicas, entre ellas Facebook, Amazon y Google, sufrieron la caída más pronunciada de la confianza, con una disminución media de los índices de confianza del 13% al 18%, según Brookings.
Es probable que esa confianza siga siendo puesta a prueba a medida que tanto los consumidores como los trabajadores de las empresas afectadas por la interrupción de TI se enfrentan a la realidad de cómo una actualización de software que sale mal puede provocar que las cosas se detengan por completo.
Sanjay Patnaik, director de Brookings Institution, dijo a BI que el gobierno ha fallado y no ha regulado adecuadamente las redes sociales y la inteligencia artificial. Sin las defensas adecuadas, la tecnología podría convertirse en una amenaza para la seguridad nacional, afirmó.
Las grandes empresas tecnológicas han tenido “vía libre”, afirmó Patnaik. “Y hoy es un día en el que las empresas están empezando a darse cuenta de ello”.
Marcus estuvo de acuerdo en que no se puede confiar en que las empresas construyan por sí solas una infraestructura confiable y la interrupción del servicio debería ser un recordatorio de que “estamos jugando doble o nada cuando permitimos que los sistemas de IA no estén regulados”.
