LAS gafas impulsadas por IA creadas por Meta han sido modificadas para “revelar los datos personales de cualquier persona” con solo mirarlas.
Eso incluye su nombre, dirección, número de teléfono e incluso los nombres de sus familiares.
2
Dos estudiantes de Harvard, AnhPhu Nguyen y Caine Ardayfio, recientemente reveló Habían instalado un software invasivo de reconocimiento facial, llamado PimOjosen un par de Meta especificaciones.
PimEyes es un controvertido motor de búsqueda que surgió como un proyecto de hobby en 2017, antes de comercializarse en 2019.
Permite a los usuarios buscar en toda la web imágenes de su rostro o el de otra persona, ya sea una pieza de marketing deshonesta o una “fotobomba” accidental.
Luego, los estudiantes utilizaron un modelo de lenguaje grande (LLM) para combinar todos esos datos, haciendo posible averiguar el nombre de alguien y dónde vive, incluso si es solo un transeúnte.
“Esta sinergia entre los LLM y la búsqueda inversa permite una extracción de datos completamente automática y completa que antes no era posible solo con los métodos tradicionales”, escribieron los dos en un Documento de Google.
“Nuestro objetivo es demostrar las capacidades actuales de las gafas inteligentes, los motores de búsqueda de rostros, los LLM y las bases de datos públicas, creando conciencia de que hoy en día es posible extraer la dirección de casa de alguien y otros detalles personales sólo de su rostro en la calle”.
…¿todavía no lo entiendo?
Analicémoslo aún más…
Básicamente, la IA (inteligencia artificial) se utiliza para detectar cuándo estás mirando la cara de alguien a través de las gafas.
Luego, recorre todo Internet en busca de todos los casos en los que ocurre esa cara.
Por ejemplo, su perfil de redes sociales o el sitio web de su empresa.
Finalmente, utiliza otras fuentes de datos en línea, como artículos y bases de registro de votantes, para determinar el nombre, la dirección, el número de teléfono y los nombres de sus familiares de una persona.
Luego, toda esa información se envía a una aplicación de teléfono que crearon los estudiantes.
La aterradora modificación, denominada 'I-XRAY', es una evidente violación de la privacidad.
Sin embargo, puede usarse para propósitos mucho más nefastos y peligrosos, razón por la cual los estudiantes se niegan a compartir el código públicamente.
“Algún tipo podría encontrar la dirección de la casa de una chica en el tren y seguirla hasta su casa”, dijo Nguyen a 404 Media.
Nguyen añadió que utilizaron Meta Ray Bans 2 para su proyecto porque las gafas inteligentes “parecen casi indistinguibles de las gafas normales”.
Lo que inicialmente comenzó como un proyecto paralelo, ahora se ha convertido en una herramienta para demostrar las “capacidades actuales de las gafas inteligentes, los motores de búsqueda facial, los LLM y las bases de datos públicas”, escribieron Nguyen y Ardayfio.
La pareja probó las gafas con extraños en el metro y con estudiantes en su campus.
Finalmente, a los estudiantes se les mostraron sus propios resultados, y uno se sorprendió al ver imágenes de ella en la escuela secundaria, que va aproximadamente del quinto al séptimo año en el Reino Unido.
The Sun se ha puesto en contacto con Meta para hacer comentarios.
¿Cuáles son los argumentos en contra de la IA?
La inteligencia artificial es un tema muy controvertido y parece que todos tienen una postura al respecto. Aquí hay algunos argumentos comunes en contra:
Pérdida de empleos: algunos expertos de la industria sostienen que la IA creará nuevos nichos en el mercado laboral y, a medida que se eliminen algunos roles, aparecerán otros. Sin embargo, muchos artistas y escritores insisten en que el argumento es ético, ya que las herramientas de IA generativa están siendo entrenadas para su trabajo y no funcionarían de otra manera.
Ética: cuando la IA se entrena en un conjunto de datos, gran parte del contenido se toma de Internet. Esto casi siempre, si no exclusivamente, se hace sin notificar a las personas cuyo trabajo se está realizando.
Privacidad: el contenido de cuentas personales de redes sociales puede enviarse a modelos de lenguaje para entrenarlos. Han surgido preocupaciones cuando Meta presenta sus asistentes de inteligencia artificial en plataformas como Facebook e Instagram. Ha habido desafíos legales a esto: en 2016, se creó una legislación para proteger los datos personales en la UE, y se están preparando leyes similares en los Estados Unidos.
Desinformación: a medida que las herramientas de inteligencia artificial extraen información de Internet, pueden sacar cosas de contexto o sufrir alucinaciones que producen respuestas sin sentido. Herramientas como Copilot en Bing y la IA generativa de búsqueda de Google siempre corren el riesgo de hacer las cosas mal. Algunos críticos argumentan que esto podría tener efectos letales, como que la IA recete información de salud incorrecta.
