Cara es el nombre de una nueva propuesta en el mundo de las redes sociales. Una iniciativa que apunta a atraer a los artistas de verdad, dejando de lado a los que utilizan IA. Cara es una red social que aplica diferentes tecnologías para la detección de contenido creado mediante IA. De esta forma, garantiza que las imágenes y propuestas de cada usuario, son propias y no han sido generadas mediante soluciones de software.
Si bien Cara recién está dando sus primeros pasos, los resultados vienen siendo satisfactorios. Difícilmente se consigan resultados 100 acertados, más teniendo en cuenta el nivel de desarrollo de la tecnología IA. A través de un detector de inteligencia artificial, apunta a desbancar a Instagram para compartir piezas gráficas. La crítica más grande hacia la red social de Meta es que las obras que se comparten alimentan los modelos IA y hacen perder originalidad a las piezas.
Cara, una red social contra la IA y el problema del shadow ban
Muchos usuarios creadores de contenido y artistas en general están abandonando Instagram. El principal motivo es el shadow ban, un tipo de cancelación que Meta no avisa que aplica, y que resta visibilidad a las publicaciones. Principalmente se debe a contenido que desde Instagram consideran inapropiado. Pero también puede suceder cuando hay usuarios que usan la Inteligencia Artificial para crear contenido duplicado o con un estilo muy similar, y se terminan afectando todas las cuentas con dichas características.
Para evitarlo, aparece Cara la red social con filtros anti-IA que busca generar una comunidad artísticas más participativa y a la vez más protegida contra los robos de identidad gráfica. Un claro ejemplo del shadow ban y los motivos para mudarse de red social lo narran artistas que de repente ven sus publicaciones con un alcance mucho menor. De 1000 o 1500 Me gusta pasan, de la noche a la mañana, a 200. Esto puede deberse a que Instagram aplicó una cancelación silenciosa o shadow ban. Y la respuesta que están encontrando los artistas es mudarse a Cara.
La red social Cara está pensada por y para artistas, y utiliza filtros anti-IA para evitar plagios de contenido y estilos. La principal crítica a Instagram es que utiliza el contenido que suben los usuarios para entrenar sus diferentes modelos de inteligencia artificial. El resultado, cuentas fantasma y copias de distintas piezas gráficas, estilos y hasta formas de acercarse al dibujo y el diseño. En Cara esto se ve fuertemente reducido al aplicar filtros que detectan si una pieza está levemente inspirada o si directamente le roba a un artista original sus rasgos distintivos.
¿Cómo funciona Cara, la red social contra la IA?
La plataforma tiene un diseño particular que permite publicar imágenes y GIFs con una característica única: el detector automático de contenido generado por IA. Sus desarrolladores sostienen que puede filtrar las creaciones artificiales del portafolio de cada artista. Esta es la característica que se vende como más atractiva para aquellos artistas que han sufrido el denominado shadow ban en Instagram.
El movimiento a otra plataforma también acompaña reclamos por parte de países, instituciones y artistas exigen detección de material con Inteligencia Artificial. Hay fuertes controversias relacionadas con el uso de estos contenidos en campañas publicitarias y concursos, ya que están menoscabando la capacidad creativa de los artistas.
La política de Cara sobre contenido IA
Cara fue creada en enero de 2023. Su objetivo es facilitar la búsqueda de arte creado por humanos en una actualidad inundada por la IA generativa. Los creadores sostienen este objetivo en su blog, y el resultado ha sido muy bien recibido por la comunidad.
La red social ya tiene 700 mil usuarios activos entre artistas y entusiastas de las disciplinas creativas. Cada usuario puede compartir su portafolio, interactuar con otros, encontrar ofertas laborales y vincular sus currículums y experiencias de manera simple. El apartado de políticas de uso en Cara está abiertamente en contra de la inteligencia artificial y sus usos actuales. Sostienen que primero tiene que haber una resolución respecto de cuestiones éticas y de privacidad sobre los contenidos y creaciones.
La fundadora de la aplicación se llama Jingna Zhang, y es una fotógrafa que participo en la demanda colectiva contra Google. En esta acción legal, se acusa a la multinacional de utilizar el trabajo de artistas sin autorización para el entrenamiento de Imagen, el generador de imágenes mediante Inteligencia Artificial que Google está elaborando.
¿Cómo detecta Cara las imágenes creadas por IA?
Pese a que puede parecer una contradicción, Cara detecta imágenes con Inteligencia Artificial a través de una IA. Se llama Hive y cumple la función de detección y filtro de fotografías. El modelo fue diseñado con el objetivo de moderar contenido, y en particular todo aquel que comparta rasgos propios de una creación a través de Inteligencia Artificial. Los términos de uso le impiden recolectar información para el entrenamiento de sus sistemas. Se trata de una IA efectiva, pero que está lejos de ser infalible. La revisión manual de los archivos termina siendo la única forma acertada casi en su totalidad, para detectar imágenes generadas mediante IA.
Los problemas con Instagram que denuncian los artistas
De acuerdo a una buena parte de la comunidad artística, los problemas que acontecen en Instagram para las obras artísticas son principalmente dos. Por un lado, la moderación de contenido que termina cercenando la libertad de expresión, y por otro el uso de obras para entrenar modelos IA.
En Meta están permitidos los desnudos en fotografías, esculturas y obras de arte, pero el sistema de moderación falla en más de una oportunidad. Por eso muchos artistas terminan sufriendo el denominado shadow ban y pueden no darse cuenta por varias semanas de la sanción. Instagram y Facebook no avisan que están sancionando la cuenta, simplemente empiezan a reducir la aparición del contenido en los feeds y recomendaciones de la comunidad.
Cara viene a poner un punto final a estas prácticas. Es una red social donde la Inteligencia Artificial generativa no tiene permitido el acceso, y en donde la moderación está siendo realizada por artistas y la comunidad artística en su conjunto.