Desde optimizar operaciones hasta automatizar procesos complejos, AI ha revolucionado la forma en que las organizaciones abordan las tareas; sin embargo, a medida que la tecnología se vuelve más frecuente, las organizaciones están descubriendo que la prisa por adoptar la IA puede tener consecuencias no deseadas.
A informe de Swimlane revela que, si bien la IA ofrece enormes beneficios, su adopción ha superado la capacidad de muchas empresas para salvaguardar datos confidenciales. A medida que las empresas integran profundamente la IA en sus operaciones, también deben enfrentar los riesgos asociados, incluidas violaciones de datos, fallas de cumplimiento y fallas en los protocolos de seguridad.
La IA funciona con Modelos de lenguajes grandes (LLM) que se entrenan utilizando vastos conjuntos de datos que a menudo incluyen información disponible públicamente. Estos conjuntos de datos pueden consistir en texto de fuentes como Wikipedia, GitHub y varias otras plataformas en línea, que proporcionan un corpus rico para entrenar los modelos. Esto significa que si los datos de una empresa están disponibles en línea, probablemente se utilizarán para capacitar a los LLM.
Manejo de datos y LLM públicos
El estudio reveló una brecha entre el protocolo y la práctica al compartir datos en grandes modelos de lenguaje público (LLM). Aunque el 70% de las organizaciones afirma tener protocolos específicos para salvaguardar el intercambio de datos confidenciales con LLM públicos, el 74% de los encuestados son conscientes de que las personas dentro de sus organizaciones aún ingresan información confidencial en estas plataformas.
Esta discrepancia resalta una falla crítica en la aplicación y el cumplimiento de los empleados de las medidas de seguridad establecidas. Además, hay un aluvión constante de mensajes relacionados con la IA que está desgastando a los profesionales y el 76% de los encuestados está de acuerdo en que el mercado está actualmente saturado con exageraciones relacionadas con la IA.
Esta sobreexposición está provocando una forma de fatiga de la IA y más de la mitad (55%) de los encuestados informaron sentirse abrumados por el enfoque persistente en la IA, lo que indica que es posible que la industria deba cambiar su enfoque para promover la tecnología.
Curiosamente, a pesar de esta fatiga, la experiencia con las tecnologías de inteligencia artificial y aprendizaje automático (ML) se está convirtiendo en un factor crucial en las decisiones de contratación. Un sorprendente 86% de las organizaciones informó que la familiaridad con la IA juega un papel importante a la hora de determinar la idoneidad de los candidatos. Esto muestra cuán arraigada se está volviendo la IA, no solo en las herramientas de ciberseguridad sino también en la fuerza laboral necesaria para administrarlas.
En el sector de la ciberseguridad, la IA y los LLM han tenido un impacto positivo, ya que el informe afirma que el 89% de las organizaciones atribuyen a las tecnologías de IA el impulso de la eficiencia de sus equipos de ciberseguridad.
