Cómo saber si sus imágenes están ayudando a entrenar un modelo de IA (y cómo darse de baja)

No mucha gente creía que esto sucediera, pero muchos artistas vivos han descubierto que su arte se ha utilizado para entrenar modelos de IA sin su consentimiento. Usando una herramienta web llamada “¿Me han capacitado?” , puede saber en cuestión de minutos si sus fotos se han enviado a Midjourney, NightCafe y otros generadores de fotos de IA populares.

Si encuentra su imagen en uno de estos conjuntos de datos utilizados para entrenar sistemas de IA, no se preocupe. Algunas organizaciones han desarrollado formas de optar por no participar en esta práctica, lo que evita que sus imágenes se retiren de Internet y se transfieran a empresas de inteligencia artificial. Verificar Cómo reconocer una imagen generada por IA: algunos métodos.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1z02_EWiV5yHqJEIx6aOP0Q-DzTechs

Cómo se entrenan los generadores de imágenes de IA en primer lugar

Cuando le pide a un sistema de inteligencia artificial como DALL-E que cree una imagen de un "perro con un sombrero de cumpleaños", primero necesita saber cómo se ve el perro y cómo se ve el sombrero de cumpleaños también. Obtiene esta información de conjuntos de datos masivos recopilados de miles de millones de enlaces a imágenes en Internet.

Como todos sabemos, Internet contiene casi cualquier tipo de imagen que puedas imaginar, incluidas, probablemente, muchas imágenes de un "perro con un sombrero de cumpleaños". Con suficientes datos como este, el modelo de IA puede descubrir cómo reproducir una imagen similar a la que se entrenó.

Pero, ¿y si esas imágenes originalmente tuvieran derechos de autor? ¿Qué pasaría si esas imágenes pertenecieran a artistas, fotógrafos o personas comunes que no sabían que sus imágenes estaban siendo ingresadas en un sistema de IA?

El problema es con los artistas.

Muchos generadores de imágenes de IA tienen un nivel de servicio pago donde los usuarios pueden comprar créditos para crear más imágenes y obtener ganancias para ellas. Pero ese beneficio proviene de la aparición de personas no certificadas cuyas imágenes se usaron para entrenar el sistema de IA en primer lugar.

A medida que más artistas descubren que sus imágenes se han utilizado para desarrollar sistemas de inteligencia artificial, está claro que no todos están de acuerdo con eso. Como mínimo, quieren que las empresas de inteligencia artificial sean aprobadas por ellos antes de usar sus imágenes. Verificar Los pros y los contras éticos de la generación de obras de arte con IA.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1hfRZIg6A39qmwBaoeyllaA-DzTechs

Especialmente si eres un artista popular y conocido, tener imágenes creadas con tu estilo puede tener un impacto negativo en tu mercado objetivo, con fans o patrocinadores potenciales, sin saber si el arte fue creado por ti o copiado a tu semejanza por AI. Peor aún, las personas pueden crear obras de arte en tu estilo para apoyar valores en los que no crees.

Este no es un problema nuevo, solía ser Tecnología de falsificaciones profundas Ha existido durante años y es probable que empeore con el advenimiento de la inteligencia artificial. Hoy en día, es rápido, barato y fácil reproducir arte "falso". Solo hay unas pocas formas de identificar una imagen generada por IA, lo que dificulta identificar el arte original de su contraparte generada por IA.

Conjuntos de datos: encuentre y catalogue sus fotos

Como se mencionó anteriormente, las empresas de IA utilizan conjuntos de datos de imágenes para entrenar sus modelos. Estos conjuntos de datos parecen una hoja de cálculo gigante de Excel con una columna que contiene un enlace a una imagen en línea y otra columna que contiene el título de la imagen y algunos detalles al respecto.

No todas las empresas de IA divulgarán el conjunto de datos que utilizan, siendo DALL-E un ejemplo. Esto dificulta saber a qué se hace referencia cuando genera una imagen y se suma a la ambigüedad general de los sistemas de IA.

Por otro lado, Stable Diffusion, un modelo desarrollado por Stability AI, explicó que se construyó sobre un conjunto de datos. LAION-5B , que cuenta con 5.85 millones de pares de imagen-texto filtrados por CLIP. Debido a que este conjunto de datos es de código abierto, cualquiera puede ver las imágenes que catalogan, por lo que ha recibido fuertes críticas.

A principios de 2023, Getty Images demandó a Stability AI para eliminar imágenes de su sitio web para entrenar su generador de imágenes de IA, Stable Diffusion. Si se pregunta quién a su vez usa Stable Diffusion, NightCafe, Midjourney y DreamStudio son algunos de los jugadores más importantes en este espacio. Verificar Las mejores herramientas basadas en IA para crear arte fotográfico a partir de su escritura de forma gratuita.

¿Cómo sabe si sus fotos se han utilizado para entrenar un modelo de IA?

Fue creado Desove De un grupo de artistas, es un grupo que tiene como objetivo ayudar a las personas a ver si sus imágenes encajan en conjuntos de datos como LAION-5B, que se utilizan para entrenar modelos de inteligencia artificial. Se llama un motor de búsqueda web para ¿He sido capacitado? Le permite buscar fácilmente palabras clave como el nombre del artista o el pie de foto.

¿He sido entrenado?

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1JldhcIbNBKVv4FGhjSeIjQ-DzTechs

¿He sido entrenado? Es muy parecido a buscar imágenes en Google, excepto que su búsqueda coincide con los resultados del conjunto de datos LAION-5B. Tienes la opción de buscar por palabra clave o por imagen, esta última útil si quieres ver si se utilizó una imagen específica.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1JOfV2VZT4LQOkj_BhABT1Q-DzTechs

Usamos el nombre de la artista Frida Kahlo (1907–1954) para probarlo y encontramos una mezcla de fotos históricas y lo que parece ser fan art en forma de garabatos, pinturas, punto de cruz, ganchillo e ilustraciones.

Si eres uno de esos creadores o artistas que se aprovechaban de lo que aportaba Frida Kahlo, entonces eres uno de los tantos desconocidos cuya creatividad ha hecho posible la existencia de generadores de imágenes con IA. Con ese poder, ahora cualquiera puede crear imágenes de Frida como esta extraña imagen de "Frida Kahlo comiendo helado".

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 14vVIKZzbxgYwG-5jRjnEmQ-DzTechs

Intente escribir el nombre del artista en la barra de búsqueda para ver si su trabajo se ha utilizado para entrenar un modelo de IA.

Cómo optar por no recibir conjuntos de datos de entrenamiento para modelos de IA

El mismo equipo detrás del sitio web Have I Been Trained creó una herramienta para que las personas opten por participar o no en los sistemas de arte de IA. Es una forma de que los artistas mantengan el control y los permisos sobre quién usa su arte y con qué propósito.

Otras plataformas de arte están comenzando a seguir su ejemplo, y actualmente, el sitio web de DeviantArt ofrece una opción para excluir ciertas imágenes de la búsqueda por conjuntos de datos.

¿Me han capacitado?: una herramienta de exclusión voluntaria de IA

Además de poder buscar su imagen, también puede seleccionar imágenes para excluirse de los datos de entrenamiento de LAION-5B utilizando el sitio web Have I Been Trained.

Primero tendrá que crear una cuenta, después de eso, haga clic con el botón derecho en una foto y seleccione Darse de baja de esta foto.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 17r6t41ybttGHBeAJfSt-ng-DzTechs

Al seleccionar esta opción, se agregará esa foto a su lista de exclusión voluntaria a la que puede acceder haciendo clic en el ícono de su cuenta en la esquina superior derecha de la página, luego seleccionando mis listas. Para eliminarlo de su lista, haga clic derecho en la imagen y seleccione Eliminar de la lista de cancelación de suscripción.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1tJX0lsDaYidr5PNJP2EAVA-DzTechs

Si eres un artista prolífico, este método es tedioso y no es adecuado para dar de baja de manera eficiente todas tus fotos. Desafortunadamente, no existe una mejor alternativa en el momento de escribir este artículo, pero es probable que haya mejoras en este sistema en el futuro.

Estas listas de exclusión voluntaria luego se pasan a la empresa detrás de LAION-5B, que acordó eliminar esas imágenes de su conjunto de datos.

Preferencia de exclusión de DeviantArt

Hasta ahora, DeviantArt ha liderado el camino para las plataformas de alojamiento de arte al brindar a los usuarios la opción de optar por no recibir su obra de arte. Inicialmente, debería haber encontrado la preferencia y marcado la casilla de verificación de exclusión. Pero después de fuertes comentarios de la comunidad de DeviantArt, esta opción ahora está activada de forma predeterminada.

Esto significa que ninguna imagen publicada en DeviantArt se proporciona a los conjuntos de datos de imágenes, a menos que los usuarios hayan elegido hacerlo. Aunque el mecanismo que utiliza no es del todo infalible, etiqueta una imagen con una etiqueta HTML "noai". Lo que le dice a los conjuntos de datos de IA que el uso de la imagen no está permitido y, si ese fuera el caso, la empresa estaría violando los términos de servicio de DeviantArt.

Imagen de cómo saber si sus fotos ayudan a entrenar un modelo de IA (y cómo excluirse) | 1pYKUHTqqF4BgL1-KrMhfYg-DzTechs

Puede encontrar su preferencia de exclusión al pasar el mouse sobre el ícono de su cuenta personal y hacer clic en Configuraciones de la cuenta. Luego haga clic en عام Desde el menú de la izquierda y desplácese hacia abajo hasta que vea el título Dígale a los conjuntos de datos de IA que no pueden usar su contenido. Verificar El lado oscuro del arte basado en IA: problemas potenciales con la creciente popularidad.

Respetar el trabajo de los artistas.

Encontrar un buen término medio entre los sistemas de IA y los artistas cuyo trabajo ayuda a capacitarlos llevará algún tiempo. Si eres creativo, no te sientas impotente. A través de fuertes respuestas de las comunidades que utilizan plataformas tecnológicas como DeviantArt Tú controlas quién usa tu arte.

No todos querrán optar por no participar, algunas personas no tienen ningún problema con sus fotos entrenando modelos de IA. Pero lo más importante es que las empresas de IA obtengan la aprobación y creen un espacio justo y respetuoso para que los modelos y artistas de IA existan juntos. Puedes ver ahora Cómo crear y utilizar éticamente arte basado en IA.

Ir al botón superior