A mitad del viaje planea lanzar una herramienta web mejorada que permitirá a los usuarios editar cualquier imagen cargada desde la web utilizando la IA generativa de Midjourney.
La herramienta mejorada, que David Holtz, director ejecutivo de Midjourney, dijo que se lanzará “a principios de la próxima semana”, también permitirá a los usuarios volver a texturizar objetos en imágenes para “repintar” sus colores y detalles según los subtítulos.
La edición de imágenes existentes con IA se ha convertido en un tema candente últimamente. Plataformas como Meta tienen luchó con cómo etiquetar imágenes editadas con herramientas de inteligencia artificial versus generadas desde cero con un modelo de inteligencia artificial, mientras que empresas como Google han lanzado potentes funciones de IA Las imágenes que no dan ninguna indicación visual han sido modificadas por IA.
El año pasado, Midjourney se comprometió a utilizar la propiedad Tipo de fuente digital del IPTC, un estándar técnico que incorpora metadatos en imágenes que indican que han sido generadas por IA. Sin embargo, la compañía es una de las pocas plataformas importantes de IA que no ha adoptado C2PA, una tecnología de metadatos que rastrea la procedencia completa de una imagen, incluido el equipo y el software utilizados para crearla.
En una publicación sobre Servidor oficial de Discord de MidjourneyHolz dijo que, para empezar, la herramienta de imágenes mejorada se limitará a un “subconjunto de la comunidad actual”, con una mayor moderación humana, así como “moderadores de IA nuevos y más avanzados” para intentar prevenir el abuso.
“Honestamente, no estamos seguros de cómo restringir con precisión la implementación de esta característica”, dijo. Midjourney solicita comentarios de la comunidad a través de una encuesta que utilizará para determinar qué usuarios obtienen acceso primero.
Existen riesgos al publicar este tipo de herramientas de edición sin las medidas de seguridad adecuadas. Podrían facilitar la infracción de derechos de autor a gran escala o promover la difusión de deepfakes engañosos.
Los deepfakes son extendiéndose como un reguero de pólvora en las redes sociales y dificultando distinguir la verdad de la desinformación. Más recientemente, imágenes falsas de destrucción y sufrimiento humano generadas por IA inundó la web tras el paso del huracán Helene.
Según datos de Claridaduna empresa de detección de deepfakes, este año se han creado y publicado un 900% más de deepfakes en comparación con el mismo período del año pasado. Está causando alarma, comprensiblemente. Una encuesta reciente de YouGov encontró que El 85% de los estadounidenses estaban preocupados. sobre los deepfakes engañosos que se difunden en línea.
A falta de una ley que penalice los deepfakes a nivel federal en EE. UU., más de 10 estados han promulgado estatutos contra la suplantación de identidad asistida por IA. La ley de California actualmente estancado – sería el primero en facultar a los jueces para ordenar que los carteles de deepfakes los eliminen o potencialmente enfrentar sanciones monetarias.
A mitad del viaje no ha sido exactamente un ejemplo brillante del despliegue responsable de la IA. (Está siendo demandado por su presunto uso de contenido protegido por derechos de autor para entrenar sus modelos generativos de IA, por ejemplo). Pero en los últimos meses, la plataforma ha tomado medidas para limitar la propagación de deepfakes, incluidos filtros para figuras políticas previas a las elecciones presidenciales de EE. UU.
