Recientemente le preguntamos a Meta si entrena IA en fotos y videos que los usuarios toman con las gafas inteligentes Ray-Ban Meta. La empresa originalmente no tenía mucho que decir..
Desde entonces, Meta ha ofrecido a TechCrunch un poco más de color.
En resumen, cualquier imagen que compartas con Meta AI se puede utilizar para entrenar su IA.
“(E)n ubicaciones donde la IA multimodal está disponible (actualmente EE. UU. y Canadá), las imágenes y videos compartidos con Meta AI pueden usarse para mejorarla según nuestra Política de Privacidad”, dijo el gerente de comunicaciones de la política Meta, Emil Vázquez, en un correo electrónico a TechCrunch.
En una declaración anterior enviada por correo electrónico, un portavoz aclaró que las fotos y vídeos capturados con Ray-Ban Meta son no utilizado por Meta para entrenamiento siempre que el usuario no los envíe a AI. Sin embargo, una vez que le pides a Meta AI que las analice, esas fotos se rigen por un conjunto de políticas completamente diferente.
En otras palabras, la empresa está utilizando su primer dispositivo de IA de consumo para crear una enorme reserva de datos que podría utilizarse para crear generaciones de modelos de IA cada vez más potentes. La única forma de “optar por no participar” es simplemente no utilizar las funciones de IA multimodal de Meta en primer lugar.
Las implicaciones son preocupantes porque los usuarios de Ray-Ban Meta pueden no entender que le están dando a Meta toneladas de imágenes (tal vez mostrando el interior de sus hogares, sus seres queridos o sus archivos personales) para entrenar sus nuevos modelos de IA. Los portavoces de Meta me dicen que esto está claro en la interfaz de usuario de Ray-Ban Meta, pero los ejecutivos de la compañía inicialmente no sabían o no querían compartir estos detalles con TechCrunch. Ya sabíamos que Meta entrena sus modelos Llama AI en todo lo que los estadounidenses publican públicamente en Instagram y Facebook. Pero ahora, Meta ha ampliado esta definición de “datos disponibles públicamente” a cualquier cosa que la gente mire a través de sus gafas inteligentes y le pida a su chatbot de inteligencia artificial que lo analice.
Esto es particularmente relevante ahora. El miércoles Meta comenzó a implementarse nuevas funciones de IA que facilitan a los usuarios de Ray-Ban Meta invocar Meta AI de una manera más natural, lo que significa que será más probable que los usuarios le envíen nuevos datos que también pueden usarse para entrenamiento. Además, la compañía anunció un nueva función de análisis de vídeo en vivo para Ray-Ban Meta durante su conferencia 2024 Connect la semana pasada, que esencialmente envía un flujo continuo de imágenes a los modelos de IA multimodal de Meta. En un video promocional, Meta dijo que podías usar la función para mirar alrededor de tu armario, analizarlo todo con IA y elegir un atuendo.
Lo que la empresa no promueve es que usted también envíe estas imágenes a Meta para la capacitación del modelo.
Los portavoces de Meta señalaron a TechCrunch hacia su política de privacidadque dice claramente: “sus interacciones con las funciones de IA se pueden utilizar para entrenar modelos de IA”. Esto parece incluir imágenes compartidas con Meta AI a través de las gafas inteligentes Ray-Ban, pero Meta aún no quiso aclararlo.
Los portavoces también señalaron a TechCrunch hacia Términos de servicio de Meta AIque establece que al compartir imágenes con Meta AI, “usted acepta que Meta analizará esas imágenes, incluidos los rasgos faciales, utilizando AI”.
meta solo pagó al estado de Texas $1.4 mil millones para resolver un caso judicial relacionado con el uso de software de reconocimiento facial por parte de la empresa. Ese caso se debió a una función de Facebook lanzada en 2011 llamada “Sugerencias de etiquetas”. Para 2021, Facebook optó explícitamente por la función y eliminó miles de millones de información biométrica de personas que había recopilado. En particular, varias de las funciones de imagen de Meta AI no se publican en Texas.
En otras partes de las políticas de privacidad de Metala compañía afirma que también almacena todas las transcripciones de sus conversaciones de voz con Ray-Ban Meta, de forma predeterminada, para entrenar futuros modelos de IA. En cuanto a las grabaciones de voz reales, existe una forma de cancelar su participación. Cuando inicia sesión por primera vez en la aplicación Ray-Ban Meta, los usuarios pueden elegir si las grabaciones de voz se pueden usar para entrenar los modelos de IA de Meta.
Está claro que Meta, Snap y otras empresas de tecnología están impulsando las gafas inteligentes como un nuevo factor de forma informática. Todos estos dispositivos cuentan con cámaras que las personas usan en la cara y, en su mayoría, funcionan con inteligencia artificial. Esto repite un montón de preocupaciones sobre la privacidad de las que escuchamos por primera vez en la era de Google Glass. 404 Media informó que algunos estudiantes universitarios han Ya hackearon las gafas Ray-Ban Meta para revelar el nombre, la dirección y el número de teléfono de cualquier persona que miren.
