El generador de imágenes Meta AI ayuda a los usuarios a crear ilustraciones y fotos con simples indicaciones de texto. Para apostar por la transparencia, Meta incluirá una etiqueta que confirma que la imagen fue creada con IA en los post publicados en sus redes sociales: Facebook, Instagram y Threads.
La etiqueta «Imaginado con IA» será agregada automáticamente a las imágenes fotorrealistas creadas con Meta AI, pero próximamente se espera hacerlo también con los contenidos creados con herramientas de otras empresas.
Para ello, Meta -la empresa matriz de Facebook, Instagram y Threads- sumará socios del sector para desarrollar estándares técnicos comunes que indiquen cuando un contenido se ha creado con IA.
La detección de estas señales permitirá etiquetar las imágenes generadas por IA que los usuarios publiquen en Facebook, Instagram y Threads.
«Estamos desarrollando esta capacidad y en los próximos meses empezaremos a aplicar etiquetas en todos los idiomas disponibles en cada aplicación. Adoptaremos este enfoque a lo largo del próximo año, durante el cual se llevarán a cabo varias elecciones importantes en todo el mundo. Durante este tiempo, esperamos aprender mucho más sobre cómo la gente crea y comparte contenidos de IA, qué tipo de transparencia considera más valiosa y cómo evolucionan estas tecnologías. Lo que aprendamos servirá como base para definir mejores prácticas en el sector y robustecerá nuestro enfoque de cara al futuro», anunció Meta en un comunicado.
Marca de agua invisible en imágenes creadas con IA
Cuando se crean imágenes fotorrealistas con Meta AI, se incluyen marcadores visibles que se pueden ver en las imágenes, así como marcas de agua invisibles y metadatos incrustados dentro de los archivos de imagen.
El uso de marcas de agua invisibles y metadatos mejora la solidez de estos marcadores invisibles y ayuda a otras plataformas a identificarlos, según Meta.
Dado que los contenidos generados por IA aparecen en todo Internet, se han aliado con otras empresas mediante foros como el Partnership on AI (PAI). Los marcadores invisibles que se usan para las imágenes de Meta AI -metadatos IPTC y marcas de agua invisibles- se ajustan a las mejores prácticas de la PAI.
Eso no es todo. Meta está trabajando en herramientas capaces de identificar marcadores invisibles a escala -en concreto, la información «generada por IA» de los estándares técnicos C2PA e IPTC– para etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Usuarios deben avisar si usan videos o audios con IA
Aunque las empresas están empezando a incluir señales en sus generadores de imágenes, no han empezado a incluirlas en las herramientas de IA que generan audio y video a la misma escala, según Meta, por lo que aún es posible detectar esas señales y etiquetar este contenido de otras empresas.
Es por eso que los usuarios deberán informar cuando compartan video o audio generados por IA, de modo que Meta luego pueda añadirles una etiqueta.
«Exigiremos a los usuarios que utilicen esta herramienta de divulgación y etiquetado cuando publiquen contenido orgánico con un video fotorrealista o un sonido realista que haya sido creado o alterado digitalmente, y podremos aplicar sanciones si no lo hacen. Si determinamos que el contenido de imagen, video o audio creado o alterado digitalmente crea un riesgo particularmente alto de engañar al público sobre un asunto de importancia, podremos añadir una etiqueta más prominente de ser necesario, para que la gente tenga más información y contexto», agrega Meta.
Meta fue claro en advertir que aún no es posible identificar todos los contenidos generados por IA, y hay formas de eliminar los marcadores invisibles. Es por ello que trabajan en clasificadores que ayuden a detectar automáticamente los contenidos generados por IA, aunque carezcan de marcadores invisibles.
También se busca evitar la eliminación o alteración de las marcas de agua invisibles. Por ejemplo, FAIR, el laboratorio de investigación sobre IA de Meta, ha presentado recientemente una investigación sobre una tecnología de marcas de agua invisibles que estamos desarrollando llamada Stable Signature. Esta tecnología integra el mecanismo de marca de agua directamente en el proceso de generación de imágenes para algunos tipos de generadores de imágenes, lo que podría ser valioso para los modelos de código abierto, ya que la marca de agua no se puede desactivar.
Tomado de Agencia Andina
