Carla Reyes
Imaginemos que una agencia de viajes decide modernizarse. En lugar de que una persona revise los requerimientos de los pasajeros y arme los paquetes, revisando vuelos, hoteles y tours, le encarga esa tarea a la inteligencia artificial. El cliente entra a la página, ingresa sus fechas tentativas de viaje, el tipo de hotel que busca y los lugares que quiere conocer, y en segundos recibe un itinerario completo. Rápido, ordenado y, aparentemente, perfecto. Si lo acepta, realiza el pago y la IA se encarga de finalizar con la contratación y asegurar las reservas.
Con estas mejoras, la empresa considera que reducirá sus gastos operativos y, a pesar de ello, atender a más clientes en menos tiempo, incrementando sus ventas.
Ahora imaginemos que uno de los proveedores o servicios de ese itinerario no existe, que fue inventado por la IA.
No es un escenario exagerado. Estas herramientas pueden inventar información cuando no la encuentran, con tal de cumplir la instrucción que recibieron: un vuelo, un hotel, un tour. Y si lo consideran inverosímil, aquí va un ejemplo de respuesta:
“Te debo una disculpa directa: cometí un error grave y esa información fue generada de manera puramente especulativa por el modelo.”
A veces el itinerario existe en el papel, pero no funciona en la realidad. El vuelo llega a las 9:00, el tour empieza a las 9:30 y termina a las 5:00 de la tarde, y el vuelo de salida está programado para las 5:30. Todo cumple lo que pidió el cliente, pero nada se puede cumplir, porque nadie calculó los traslados.
Y lo que es más probable que ocurra (porque sucede cuando el propio consumidor realiza la reserva): el hotel tres estrellas que eligió el sistema, guiándose por calificaciones y fotos en redes, no tiene nada que ver con lo que el cliente esperaba cuando llega con sus maletas. Las reseñas y las fotos se pueden manipular y, de hecho, sucede con frecuencia.
Y en el peor escenario, la herramienta termina derivando la reserva a una página fraudulenta que se queda con el dinero.
Cuando eso pasa, ¿quién responde?
La respuesta es simple: el proveedor
El Código de Protección y Defensa del Consumidor (artículos 19 y 104) hace responsable al proveedor por la idoneidad de lo que ofrece: lo que el consumidor recibe tiene que corresponder con lo que se le ofreció. Para liberarse de esa responsabilidad, la empresa tendría que acreditar una causa objetiva, justificada y no previsible que rompa el nexo causal: caso fortuito, fuerza mayor, hecho determinante de un tercero o imprudencia del propio consumidor.
La IA no entra en ninguna de esas categorías. No es un tercero, es una herramienta que la empresa eligió, configuró y puso a trabajar en su nombre. Y tampoco es imprevisible que se equivoque: cualquiera que la haya usado sabe que comete errores. Decirle al consumidor o a INDECOPI, «fue el sistema» pesa lo mismo que decir «fue mi empleado/proveedor». O sea, nada.
En realidad, esto no es nuevo. Una agencia de viajes siempre ha respondido por su labor de gestión: reservar lo que dice que reservó, verificar que sus proveedores existan y estén habilitados, y cumplir con lo prometido. Si vendió un hotel tres estrellas, no puede alojar al cliente en uno de menor categoría. Si después el hotel falla al prestar su servicio, esa es otra historia y le toca al hotel responder. Pero elegir lo que se le entrega al cliente, es trabajo y responsabilidad de la agencia.
El error también escala
Hay un segundo factor que cambia el tamaño del problema. Una persona que se equivoca arma un paquete mal. Un sistema que se equivoca inventa o recurre a fuentes no confiables, puede armar cientos con el mismo error antes de que alguien lo note. La IA permite vender más rápido, y eso incluye vender el error a escala. Si la falla está en una fuente o en la lógica del sistema, los reclamos no llegan uno por uno, llegarán en bloque.
(Y la autoridad también tiene acceso a las mismas herramientas para detectarlo y analizarlo, pero eso da para otro artículo.)
¿Entonces no debemos usar IA para mejorar nuestros servicios?
No debemos ser tan drásticos. La IA puede hacer mucho más eficiente un servicio como este. El punto es que la eficiencia no puede reemplazar la verificación de fuentes, procesos y resultados, porque la responsabilidad no se automatiza.
En el caso de las agencias de viajes que usamos como ejemplo, eso significa que la empresa tiene que confirmar que los vuelos, horarios y reservas existen antes de ofrecerlos o requerir el pago al pasajero. Tiene que decidir con qué fuentes trabajará su herramienta y cuáles quedan fuera, teniendo claro que las calificaciones en redes no son un estándar de calidad. Necesita reglas claras y que aseguren la viabilidad de su oferta que el sistema no pueda saltarse (tiempos de traslado, márgenes entre actividades). Y alguien tiene que revisar lo que el sistema produce, con parámetros claros y con cierta frecuencia, aunque todo parezca funcionar bien.
Y un punto crucial para tener en cuenta: la labor de la agencia de viajes no se limita a armar un paquete o comercializar servicios de transporte, alojamiento: la agencia de viajes también debe gestionar cualquier contingencia que se produzca con los servicios e informarla oportunamente al pasajero.
Entonces, el proveedor deberá determinar ¿la IA también se hará cargo de la gestión de las reprogramaciones, cancelaciones y retrasos?; ¿cómo se informará al consumidor?; ¿cuáles serán los criterios para ofrecer alternativas de solución efectivas?
Incluso con 99.9% de certeza de que todo está correcto, conviene recordar que ese 0.1% también se multiplica. En un servicio que vende masivamente, un margen de error pequeño puede significar muchos clientes varados en un aeropuerto.
La IA puede asumir tareas que antes realizaba una persona, pero su uso no modifica la responsabilidad del proveedor frente al consumidor. Para la empresa, automatizar una parte del servicio implica también decidir qué se verifica, quién supervisa y cómo se responde cuando algo falla.
La pregunta, entonces, no es solo cuánto puede hacer la IA por una empresa, sino cuánto control conserva esa empresa sobre lo que la IA hace en su nombre. Cuando ese resultado llega al consumidor, la responsabilidad sigue siendo del proveedor.
