Investigadores de la Universidad de Pensilvania realizaron 200 pruebas con varios modelos avanzados de inteligencia artificial. Descubrieron que podían recomendar productos distintos ante pedidos casi idénticos, según las fuentes consultadas, el orden en que recibían la información y los datos previos disponibles. Ante pedidos prácticamente idénticos, estos sistemas llegaron a ofrecer respuestas diferentes e incluso a preferir artículos más caros, con peores calificaciones y menos reseñas.
El hallazgo cobra importancia porque cada vez más consumidores recurren a agentes de IA, sistemas capaces de buscar información y completar tareas de manera autónoma. En el ecommerce, los usuarios pueden comparar precios, evaluar alternativas y seleccionar productos según sus necesidades.
Un estudio de RTB House reveló que el 42% de los millennials confiaría en una herramienta de este tipo para decidir compras de hasta US$ 250. La misma investigación sostuvo que servicios como Google AI Overviews, los resúmenes generados por IA que aparecen en los resultados del buscador, y ChatGPT ya generan más confianza entre los consumidores que las redes sociales y los medios tradicionales.
Una encuesta independiente de Rithum y Retail Dive mostró una tendencia similar. El 53% de los compradores confía en los asistentes de IA tanto como en las páginas de las propias marcas, mientras que el 64% de los integrantes de la Generación Z realizaría una compra a partir de sus sugerencias sin verificar antes la información en otra fuente.
Por qué una misma búsqueda puede ofrecer respuestas diferentes
El estudio analizó distintas versiones de Claude, GPT y Gemini, entre ellas Claude Haiku 4.5 y Opus 4.8, GPT-5 Mini y GPT-5.5, y Gemini 3.1 Flash Lite y 3.5 Flash. El objetivo era comprobar si cada sistema recomendaba el mismo producto ante consultas similares.
Cuando los modelos no tenían acceso a fuentes ni información adicional, cada uno mostraba una preferencia clara por un producto determinado. El resultado comenzaba a cambiar cuando los investigadores incorporaban recomendaciones, distintas fuentes y otros datos al proceso.
“Dos usuarios que realizan la misma solicitud, o el mismo usuario en días distintos o con modelos diferentes, pueden recibir productos distintos sin ninguna explicación aparente”, advirtieron los autores. En algunos casos, el agente eligió un artículo más caro, con peores calificaciones y menos reseñas. Durante una compra real, el sistema puede consultar reseñas, resultados de búsqueda, recomendaciones y preferencias guardadas del usuario antes de decidir.
Los investigadores advierten que esa inestabilidad podría ser todavía mayor fuera de las pruebas realizadas para el estudio. Los agentes disponibles para el público deben enfrentarse a búsquedas más complejas y a una combinación de datos que cambia constantemente.
El desafío para compradores y vendedores
Para las empresas y personas que venden por internet, el problema implica una pérdida de control sobre cómo sus productos aparecen en las respuestas. Los autores consideran que el desafío podría ser incluso mayor que en el SEO tradicional, en el que las marcas aplican distintas técnicas para mejorar su posicionamiento en los buscadores.
Un vendedor puede optimizar una página para Google, pero no sabe qué modelo realizará la búsqueda, qué información consultó previamente ni en qué orden recibirá los resultados. Tampoco puede observar las consultas que el agente realiza a buscadores, bases de datos u otros servicios externos para completar la tarea. El comprador enfrenta una falta de información similar. Aunque la recomendación parezca precisa, no hay una manera clara de identificar qué fuente, antecedente o preferencia llevó al sistema a elegir un artículo y descartar otro.
El estudio también advierte que alguien podría intentar aprovecharse de esa falta de transparencia. A diferencia de una persona, que puede reconocer un mensaje publicitario o desconfiar de una recomendación interesada, los agentes no cuentan con un mecanismo evidente para descartar información introducida deliberadamente con el objetivo de influir en su decisión.
Por ese motivo, los investigadores recomiendan que las empresas prueben cómo responden estos sistemas ante contenidos diseñados para alterar sus decisiones. También proponen ajustes para mostrar con claridad qué datos guardados sobre el usuario, fuentes o afirmaciones influyeron en cada recomendación.
*Esta nota fue publicada originalmente en Forbes.com.
