En una época en la que distinguir el contenido producido artificialmente del que no se vuelve cada vez más difícil, y en un intento por ayudar a los creadores humanos a diferenciar su trabajo del generado por IA, comienzan a surgir soluciones como sellos y certificaciones en distintos formatos para autenticar obras creadas por personas.

“Los consumidores siempre estuvieron dispuestos a pagar más por productos etiquetados como ‘hechos a mano’, ‘artesanales’ o ‘a medida’, sabiendo que se elaboraron utilizando técnicas tradicionales que requieren mayor esfuerzo y habilidad humana. A medida que la IA generativa transforma la escritura, el arte y los medios digitales en productos fluidos e infinitamente replicables, el esfuerzo cognitivo humano está experimentando una profunda transformación. Se está convirtiendo en un bien artesanal que los consumidores deben optar por apoyar y valorar”, explican desde una nota reciente en The Conversation, titulada oportunamente “En la era de la IA, la producción creativa humana se está convirtiendo en un lujo”.

De hecho, más allá de si efectivamente podemos distinguir un contenido producido por IA de uno que no, algo que pesa cada vez más es la expectativa y percepción. En un estudio reciente que incluyó una serie de experimentos se pidió a participantes que compararan textos creativos generados por IA, incluyendo poesía y ficción, pero previamente se les indicó que algunos pasajes eran de autoría humana y otros generados por IA. A lo largo de 16 experimentos, los participantes infravaloraron sistemáticamente los textos etiquetados como generados por IA, detallan desde The Conversation.

Esto tiene que ver con la creciente valoración negativa sobre las producciones realizadas mediante IA: los autores del estudio denominan a esto  “AI disclosure penalty”, algo así como la penalización al conocerse que la autoría es sintética. O dicho de otra forma, cuando las personas creen que algo fue creado por una máquina, lo aprecian menos. Esta percepción, además, no sucede en un vacío, sino que se da en un contexto de crecimiento de la desconfianza en la implementación de la IA, con cada vez más movimientos anti-AI a nivel global, y una novedosa resistencia por parte de los segmentos más jóvenes: una encuesta de mayo del diario The New York Times revelaba que el 47% de los jóvenes estadounidenses entre 18 y 29 años considera como algo muy malo la adopción de IA. Asimismo, un estudio de este año del Pew Research Center revela que al menos el 50% de los ciudadanos está más preocupado que excitado por el uso de IA en la vida cotidiana.

¿Hacia un nuevo modelo de negocio?

Independiente de que para algunos la IA viene a democratizar la creatividad al reducir las barreras de acceso a las herramientas y la producción —la vieja utopía de Internet venía un poco por este lado—, la evidencia sugiere que cuando la autoría se vuelve automática o se muestra como tal, el valor percibido disminuye. Así, la creación artesanal empieza a volverse un ítem de lujo o bien escaso, y tanto creadores como marcas buscarán diferenciar su producción de esta manera.

“Como contraposición a lo que abunda (la tecnología y su rapidez), probablemente lo artesanal y curado por humanos crecerá en valor y marcará el camino de lo original. Por eso cada vez más obras y creadores empiezan a tener disclaimers reivindicando que fue hecho por humanos, como la serie Pluribus producida por Apple (que además filmó los nuevos comerciales de su marca con técnicas analógicas). ¿Empezaremos a ver más etiquetas de ‘Hecho por una IA’ para distinguir o para advertir? ¿Cómo afectará la credibilidad o atractivo de las marcas la valoración de lo artesanal o curado por humanos?”, reflexiona Ximena Alarcón Díaz, desde el TrendLab de la agencia Youniversal.

Ya lo dijo Adam Mosseri, director de Instagram, al afirmar que es “más práctico identificar contenido real que contenido falso” a medida que la tecnología de IA mejore hasta el punto de crear contenido visualmente indistinguible del creado por profesionales.

En este sentido, si el ecosistema mediático evolucionó de tal manera que pagar por gran parte del contenido que consumimos es cada vez más opcional, con la mayoría del contenido controlados por plataformas (streaming de música, televisión, cine, noticias), y con poquísima compensación económica para los creadores, todo esto se magnifica hoy con la irrupción de la IA, llevando los modelos de reproducción y compensación todavía más la límite —se ve en las polémicas en Hollywood y más allá por el uso de material con copyright, las demandas de conglomerados de medios por el entrenamiento con sus datos. Es por esto que, en un escenario cada vez más saturado de contenido instantáneo, el esfuerzo verificado de un creador humano puede pasar de ser una expectativa básica a una cualidad exclusiva y muy codiciada. O al menos así lo vaticinan los expertos en tendencias y analistas de tecnocultura.

Las nuevas certificaciones de humanidad

En relación a las autenticaciones, la periodista Jess Weatherbed explica en The Verge que certificaciones ya existentes como el C2PA, Coalición para la Procedencia y Autenticidad del Contenido (un estándar técnico diseñado para verificar el origen y el historial de modificaciones de archivos digitales de distinto tipo), que ya utilizan plataformas como Meta, no es del todo eficaz ya que, a pesar de contar con un amplio respaldo de la industria, no previene que los creadores y usuarios que trabajan con IA oculten su origen por temas reputacionales o de percepción.

¿Cuáles son otras de las certificaciones surgidas en el último tiempo? Existen diversas variantes, pero todas enfrentan desafíos para su adopción generalizada. “Actualmente, existen demasiadas alternativas de etiquetado sin IA para elegir. En total, contabilicé al menos 12, todas intentando abordar el mismo problema con diversos criterios de elegibilidad y métodos de autenticación. Algunas son específicas de la industria, como la ‘certificación de autoría humana’ del Gremio de Autores para libros y otras obras escritas, y no pueden aplicarse de forma generalizada a todas las formas de contenido creativo. Otras soluciones, como Proudly Human y Not by AI, pretenden ser más amplias, abarcando textos publicados, artes visuales, videografía y música, pero los procesos de verificación que utilizan estos servicios pueden ser tan cuestionables como los de las soluciones de etiquetado con IA. Algunas, como Made by Human, se basan exclusivamente en la confianza, poniendo insignias y etiquetas a disposición del público para que cualquiera las descargue y aplique a su trabajo sin establecer realmente la procedencia. Otras, como No-AI-Icon, afirman inspeccionar visualmente las obras y procesarlas con servicios de detección de IA, que pueden ser notoriamente poco fiables”, completa Weatherbed.

¿Cómo funcionan estos sistemas de certificación? Simple: pidiendo a los creadores que muestren manualmente sus procesos de trabajo a un auditor humano, como bocetos o borradores escritos. Es un proceso extremadamente tedioso y costoso, pero pareciera ser el método más fiable actualmente para determinar si algo fue creado por un ser humano. Otra problemática tiene que ver con la definición misma de la producción artística o creativa con IA, a medida que se incorpora o los procesos se vuelven más híbridos: ¿con cuánto de asistencia artificial se considera una producción humana o sintética? ¿Se mide en porcentajes o de forma cualitativa (por tipo de asistencia)? El problema radica tanto en la verificación como en la definición.

Por último, otras variantes de certificación como Proof I Did It, se basan en la tecnología blockchain para proporcionar un registro permanente que cualquiera puede usar para identificar a los creadores y las obras verificadas por el servicio. Al trabajar con blockchain, los creadores obtienen un certificado digital infalsificable que demuestra que su obra fue creada por un ser humano, lo cual ofrece una ventaja competitiva sobre otros sistemas.

Una necesidad urgente

Los especialistas coinciden en que, a pesar de sus defectos, estándares consolidados como C2PA ofrecen algo que las opciones de etiquetado necesitan y por ahora no tienen: unificación y reconocimiento masivo. Entre quiénes trabajan con este sello, grandes nombres como Adobe, Microsoft y Google se comprometieron con el estándar, y los proveedores de IA lo están implementando para satisfacer a los reguladores globales. Otro tópico a futuro será también el enforcement (verificación y control de la aplicación), así como garantizar que no haya fraudes (personas que utilicen el sello humano sobre contenido artificial), si bien, como sucede con muchas certificaciones en la actualidad, esto muchas veces es imposible de prevenir.

Restará ver si es posible alcanzar un equivalente a, por ejemplo, sellos ampliamente aceptados como el de Comercio Justo (fair trade) o de Alimentos Orgánicos (organic certification), que, aunque no sin controversias, se basan en una serie de criterios acordados y son reconocidos globalmente. Lo cierto es que la rápida evolución de las tecnologías que trabajan con grandes modelos de lenguaje e IA para crear textos, imágenes y videos  —y su adopción vertiginosa— será siempre más rápida que la capacidad de respuesta de los estados y los organismos reguladores. Lo que no quita que sea necesario problematizar estas cuestiones y pensar así como generar consensos para las certificaciones de contenido humano o no sintético, que quizás en un comienzo sean deficientes o no del todo precisas, pero, por algún lado hay que comenzar.