Una tienda de lujo bloquea a los agentes de inteligencia artificial tras una vulnerabilidad en el carrito de compra

Un incidente reciente en el mundo del comercio electrónico ha revelado otra cara de los agentes de inteligencia artificial: mientras estas herramientas se promocionan como asistentes personales que ahorran tiempo al usuario, también pueden emplearse para explotar vulnerabilidades en los sistemas de las tiendas digitales. La plataforma The RealReal, especializada en la venta de moda de lujo de segunda mano, anunció que ha actualizado sus sistemas de protección contra bots después de descubrirse un método que permitía a un agente de inteligencia artificial monopolizar los productos e impedir que otros compradores completaran sus operaciones.

¿Cómo surgió el problema?

La plataforma utiliza un sistema de reserva temporal muy habitual en las tiendas de piezas únicas: al añadir un producto al carrito de la compra, este pasa a estar «reservado» y ningún otro usuario puede comprarlo durante veinte minutos. Este sistema tiene sentido cuando quien interactúa con él es una persona, ya que nadie tiene el tiempo ni la paciencia de volver a añadir una prenda al carrito una y otra vez cada veinte minutos.

Sin embargo, la ecuación cambia por completo con un agente de inteligencia artificial. Un experimento realizado por un medio especializado demostró que es posible instruir a un agente como Muse, de Meta, para que vuelva a añadir el producto al carrito inmediatamente después de que expire el plazo de reserva, y repetirlo sin descanso. El resultado: la congelación efectiva del producto durante horas o más, bloqueándolo para el resto de los visitantes sin llegar a comprarlo.

La respuesta técnica de la plataforma

Tras la publicación del experimento, el director técnico de la compañía explicó que el caso detectado ya había sido resuelto y que la nueva configuración de protección hace muy difícil que cualquier agente automatizado pueda:

• Iniciar sesión en las cuentas de los usuarios.
• Añadir productos al carrito de la compra.
• Completar el proceso de pago y finalizar la compra.

En cambio, estos agentes seguirán pudiendo explorar los productos en venta y dirigir al usuario a sus páginas. Es decir, la empresa ha optado por separar el «descubrimiento» de la «compra»: sí a la búsqueda automatizada, no a las transacciones automatizadas. Añadió que el refuerzo de la protección será un proceso continuo, en paralelo a la evolución de las herramientas de compra impulsadas por inteligencia artificial.

¿Por qué la compra automatizada va camino de generalizarse?

Las empresas tecnológicas están apostando con fuerza por agentes que realicen tareas cotidianas en nombre del usuario: organizar citas, buscar y comprar. Y ha quedado claro que las compras son, hasta ahora, el uso más destacado: Meta señaló en su informe financiero del tercer trimestre que la compra fue el caso de uso más frecuente de su aplicación Muse, con un valor medio de compra superior a los 200 dólares y unos diez millones de usuarios en Estados Unidos que descargaron la aplicación en tan solo cuarenta días. Estas cifras indican que lo que era un experimento tecnológico marginal se ha convertido en un comportamiento de consumo generalizado.

Un desafío más profundo que una simple vulnerabilidad

La cuestión no se limita a un único fallo de programación, sino a un cambio en la estructura de la relación entre las tiendas y sus clientes. Si los usuarios dejan de visitar los sitios web directamente y pasan a depender de las conversaciones con asistentes inteligentes como interfaz de acceso a la red, las tiendas pierden el contacto directo con su público y, con él, parte de sus ingresos publicitarios y de los datos sobre el comportamiento de compra. Por eso grandes compañías, con Amazon a la cabeza, han adoptado una postura cautelosa y han bloqueado a los agentes para que no puedan comprar dentro de sus plataformas.

Lo más importante es que la entrada masiva de agentes en las plataformas de venta puede desbaratar mecanismos que funcionaban sin problemas desde años, porque se construyeron sobre la premisa implícita de que el usuario es un ser humano con tiempo y energía limitados. Los sistemas de reserva temporal, los límites de pedidos y las colas de espera digitales son todas reglas explotables cuando la otra parte es un programa que no se cansa ni duda.

Lecciones prácticas para los propietarios de tiendas en línea

• Revisar cualquier norma que se base en la «paciencia humana» como factor de protección indirecto, pues es lo primero que cae ante la automatización.
• Establecer límites claros al número de veces que se puede reservar o añadir un producto desde la misma cuenta o dirección.
• Distinguir entre los agentes útiles para el descubrimiento y los que ejecutan transacciones, y definir una política pública para cada tipo.
• Vigilar los patrones anómalos en el comportamiento del carrito, en lugar de confiar únicamente en la detección tradicional de bots.

En conclusión, el comercio minorista digital entra en una nueva fase de negociación con la inteligencia artificial: los usuarios descubren capacidades inesperadas y las tiendas tratan de adaptarse al cambio y reescribir las reglas del juego antes de que se usen en su contra.

✦ بقلم فريق دروب أيديا