Después de un año en el que se popularizó el concepto AI Slop, los resúmenes online arruinaron las búsquedas y la web se volviera cada vez más homogénea y genérica por el contenido producto artificialmente, pareciera que las plataformas por fin están reconociendo que la gente no quiere consumir más basura generada por la IA. E, inclusive, consumir o usar directamente productos de IA. En particular, al ver encuesta reciente de Gallup en la que la creciente familiaridad de los estadounidenses con la IA generativa coincide con actitudes negativas hacia esta tecnología (algo que además se acentúa en los jóvenes de 18 a 29 años, ya que casi la mitad considera que la IA generativa causa más daño que beneficio). Y no es el único estudio que señala esto en los consumidores.

Por eso, un número cada vez mayor de sitios y aplicaciones ya cuenta con herramientas y políticas para señalar, etiquetar y vetar el contenido generado por IA. Sea como movida de PR o respuesta y adaptación a la coyuntura, recientes incidentes como el backlash que sufrió Meta con su herramienta generativa de imágenes (MetaIA) o Google retirando la función que permitía a los usuarios emplear IA generativa para modificar imágenes satelitales en Google Earth, lo cierto es que las empresas están recalculando. Las crisis reputacionales y la mala publicidad también les cae a las grandes marcas como McDonald’s y Coca-Cola, que usaron imágenes generadas por IA en sus publicidades, e inclusive hasta los flyers hechos con IA “pegan mal” en la audiencia.

“Vamos a ver cada vez más este tipo de medidas porque el problema del AI slop no es solamente la calidad del contenido sino la pérdida de confianza. Durante mucho tiempo dimos por sentado que detrás de un texto, una imagen o una recomendación había alguien que había tomado una serie de decisiones y estaba dispuesto a hacerse responsable por ellas (¡nos guste o no!). La IA generativa vuelve mucho más difícil hacer esa inferencia”, abre Tomás Balmaceda, filósofo y profesor de la Universidad de San Andrés, resumiendo uno de los primeros problemas, la crisis de confianza.

Para Melisa Avolio, periodista especializada en Tecnología y autora del libro “Qué es la inteligencia artificial”, es también un debate sobre la calidad: “Más allá de los contenidos hechos o no con IA, lo que está en juego hoy es la calidad. Y eso depende de la persona que está a cargo de la creación de ese contenido y de su habilidad para usar herramientas de IA generativa en pos de ese objetivo. ¿Lo puede hacer sin herramientas de IA? Perfecto. ¿Lo puede hacer con herramientas de IA, pero aun así lograr calidad? Ese es el desafío: cómo lograr calidad con herramientas que tienden a generar contenidos genéricos. Quien pueda hacerlo es quien se va a destacar”.

¿Vamos a ver más este tipo de decisiones en un futuro cercano? ¿Cuál será el impacto de este tipo de medidas para los creadores que utilizan IA en parte de su proceso de producción/creación? ¿Y cuál podría ser el efecto en los usuarios de a pie confrontados con la posibilidad de poder ‘botonear’ a otros?

Las plataformas que se están subiendo al anti-IA

Poco a poco, plataformas como Linkedin o Substack -en pleno crecimiento- están desarrollando botones y filtros para que los usuarios “flagueen” contenido que parece creado con IA o, directamente, para declarar que un texto no fue realizado por un humano, según el caso. “El problema fundamental no es que la gente utilice la IA ni la calidad de los resultados que genera. No todo lo creado con IA es basura, ni toda la basura está hecha con IA. El problema surge cuando existe una discrepancia entre las expectativas del lector y la realidad, sobre todo cuando dedica su atención —sin saberlo— a algo detrás de lo cual no hay ningún pensamiento humano. Eso es el Claudefishing”, explica Chris Best, CEO y co-fundador de Substack en su el blog oficial.

Su compañía, un espacio que se viene consagrando entre los escritores, periodistas y creadores y que goza de cierto prestigio, se acaba de asociar con Pangram, una de las mejores herramientas disponibles hoy, capaz de detectar texto generado por IA, incluso si ha sido “humanizado” o procesado con herramientas para evadir la detección por IA. Así, los usuarios ya pueden analizar textos enteros, posteos y hasta comentarios de otros usuarios con un simple click.

La noticia viene luego de las quejas de usuarios y figuras conocidas en la plataforma, como la periodista de tecnología Taylor Lorenz, quien analizó las 10 publicaciones más recientes de los 25 libros más vendidos de Substack en cada categoría, y descubrió que gran cantidad de contenido fue generado por IA. Pero no solo eso: Taylor también hizo un análisis que desglosa por tópico las publicaciones que tienen más contenido sintético. Los resultados fueron que cuanto más analítico era el contenido, mayor era la probabilidad de que sea generado por IA, ya que la gente no parece querer obtener comentarios culturales, reflexiones sobre restaurantes o viajes, ni reseñas musicales de la IA, y estas categorías se basan en gran medida en voces humanas y personales. Sin embargo, en lo que respecta a tecnología, negocios, salud o filosofía, los lectores de Substack sí parecen sentirse cómodos recibiendo información de la IA, o al menos permitiendo que la IA moldee la información que consumen.

“Últimamente, me encuentro con cada vez más contenido generado por IA en Substack. Como escritora, me preocupa mucho la posibilidad de que mi trabajo quede eclipsado por una avalancha de contenido generado por IA, y empecé a preguntarme cuánto del contenido más popular de Substack es realmente producto de la IA”, comentaba Lorenz haciendo eco de lo que otros creadores están diciendo. Algo que resuena especialmente en esta plataforma que se popularizó para ayudar a los creadores a monetizar su trabajo.

Otras plataformas como Snapchat anunciaron que los videos generados totalmente por IA ya no podrán aparecer en su sección de descubrimiento, y Anthropic anunció que incorporará marcas de agua al texto generado por sus modelos, incluido Claude, para cumplir con la normativa europea. Se refiere al código de transparencia de la Ley de IA de la UE, que entró en vigor el 2 de agosto, y que exige a las empresas de IA que marquen el contenido generado o editado por IA de manera que otros sistemas puedan identificarlo. La empresa señaló que la marca de agua se aplicará a diversos productos, como la API de la plataforma Claude, Claude, Claude Code, Claude Cowork y Claude Tag. Además de Anthropic, otras compañías como Black Forest Labs, Google, Meta, Microsoft, OpenAI y Synthesia se comprometieron a cumplir con el código de la UE.

¿Una caza de brujas?

Una de las plataformas que más parece estar sufriendo el slop es LinkedIn, para algunos la red más llena de contenido ostensiblemente realizado por bots y automatizado. Por eso no sorprende el intento, quizás un tanto desesperado, por “limpiar” un poco su feed con la inclusión de un nuevo “botón” para señalizar el contenido “que parece AI slop”. La empresa también eliminó la opción de “Mejorar con IA” (una función que reescribía los textos) y cambió su política para desincentivar los posteos producidos con IA.

Aunque la opción aún no está disponible en países de América Latina como Argentina, ya está generando ruido. Están los usos que la plataforma consideró al crear las funcionalidades y después están aquellos “adhoc”, es decir, los que se dan con el uso libre y el criterio de los propios usuarios (personas que denuncian sin motivo alguno para desacreditar, los que marcan ese contenido para generar engagement y más). “En LinkedIn pasó lo mismo que en X (con su programa de monetización), que recompensaba a creadores a cualquier costo y producía publicaciones sin sentido. Mucha gente se empezó a quejar de ver contenido hecho con IA y eso generó que la compañía tomara una decisión. Hay como un flujo en el que las empresas hacen estas etiquetas de contenido creado con IA porque las mismas personas son las que buscan algo distinto”, sigue Avolio.

En sitios como Reddit la discusión se vuelve acalorada y otros como 404 Media reportan que algunos usuarios de plataformas como Substack se sienten estigmatizados por estas nuevas medidas ya que emplean IA en algún punto de su proceso creativo (para redactar o editar artículos) y sienten que la nueva política los discrimina injustamente. También están quienes no utilizan esta tecnología en absoluto y temen que Substack u otros usuarios en Linkedin, por ejemplo, los identifiquen erróneamente y dañen su reputación.

En este sentido, para subsanar un poco, Substack también añadió una opción para que los usuarios incluyan una nota sobre “cómo lo hago”, donde pueden explicar su proceso de escritura y revelar si utilizan IA. Aunque hay que decir que Pangram funciona bastante bien (su tasa de falsos positivos es aproximadamente uno de cada 10.000), estas tecnologías se están perfeccionado y son aproximaciones. De todas formas, no parece que la tendencia vaya a aminorar, todo lo contrario, por lo que habrá que aprender a convivir también con estas herramientas y posibilidades, seas marca o creador.

“En un ecosistema donde producir se vuelve extremadamente barato, demostrar que hubo criterio humano puede convertirse en una nueva forma de valor. El riesgo es que pasemos demasiado rápido de combatir el contenido basura a sospechar de cualquier contenido en el que haya intervenido una IA. Hoy casi ningún proceso creativo digital es completamente ‘puro’: usamos correctores, traductores, buscadores, editores y cada vez más herramientas generativas. La pregunta relevante no debería ser simplemente “¿Acá se usó IA?”, sino para qué se utilizó, cuánto intervino y, sobre todo, quién se hace responsable del resultado final”, cierra Balmaceda.