La necesidad de reflexionar sobre el uso de la Inteligencia Artificial, no solo en lo que respecta a su uso, sino en lo que puede afectar nuestras vidas, este artículo presenta un caso paradójico que se ha producido estos días, publicado en el diario La Nación, es la reproducción de una nota del diario El País de España. Leemos en el artículo:
Polémico experimento: cómo una aerolínea intentó usar la IA para cobrarle a cada cliente lo máximo posible
El enfoque consistía en usar toda la información personal posible, desde localización y datos demográficos hasta movimientos del mouse por las webs que se visitan, para explotar las debilidades del viajero
MADRID.- Un pasaje de avión no siempre cuesta lo mismo. El precio puede variar en función del asiento, del día de la semana, de la hora del vuelo o de la época del año, entre otros. Pero, ¿y si también se cobrara más a quienes tienen una urgencia, como asistir a un funeral? Eso es lo que pretendía hacer la aerolínea estadounidense Delta Air Lines: establecer precios personalizados mediante herramientas de inteligencia artificial (IA) que procesen datos particulares de cada cliente. La idea trascendió este verano y cosechó airadas críticas de algunos congresistas y senadores, hasta el punto de que la compañía retiró la iniciativa.
Pero el debate está servido: ¿es legítimo establecer precios específicos para cada cliente a partir del análisis de sus datos personales? Para Lina Khan, presidenta de la Comisión Federal de Comercio (FTC, el regulador de Estados Unidos) hasta enero, es algo a lo que nos deberíamos negar como sociedad. La jurista llama a esta práctica surveillance pricing (algo así como “fijación de precios por vigilancia”).
“Ya no es que se recojan datos sobre ti, sino que además se usan en tu contra para cobrarte cuanto seas capaz de pagar”, ha dicho recientemente en un podcast. La experta se pregunta qué pasaría si a un cliente se le muere un familiar y recibe un email con los servicios funerarios disponibles. La compañía aérea puede saber que el usuario quiere ir a un entierro y decidir cobrarle más. “Esta es una de las nuevas fronteras de abusos potenciales sobre las que tenemos que estar en guardia”, advierte la experta.
La FTC publicó un informe en enero de este año, tres días antes de la destitución de Khan por el reelecto Donald Trump, en el que advertía sobre los efectos perjudiciales de los precios personalizados vía IA, tanto para la competencia como para los usuarios. “Existe la preocupación de que, al menos para algunos compradores potenciales, la fijación de precios mediante vigilancia pueda dar lugar a que algunos consumidores paguen precios más altos que otros en los casos en que los algoritmos predicen que el comprador potencial tiene un fuerte deseo por el producto o servicio en cuestión”, concluye la investigación tras examinar documentos aportados por Mastercard, Accenture, o McKinsey, entre otros.
Eso es precisamente lo que se busca: alcanzar el llamado umbral del dolor, el precio máximo al que está dispuesto a llegar un cliente en un momento dado. El enfoque es usar toda la información personal posible, desde localización y datos demográficos hasta movimientos del mouse por las webs que se visitan, para explotar las debilidades del cliente. La IA es capaz de procesar las grandes bases de datos compradas a los data brokers, empresas que recopilan y venden el rastro digital de los internautas, además de toda la información de contexto que ya se tenía en cuenta (época del año, precios de la competencia, etcétera).
El presidente de Delta, Glen Hauenstein, dijo en una reunión con inversores que podrían calcular exactamente cuánto puede pagar cada cliente por su pasaje. El objetivo era tener “un precio disponible para ese vuelo, a esa hora, para esa persona en concreto”. Dijo también que el 3% de las tarifas ya se calculaban con IA, y que pretendían llegar al 20% para finales de año.
“Las implicaciones para la privacidad individual del consumidor son graves. Se ha demostrado que la fijación de precios mediante vigilancia utiliza información personal extensa obtenida a través de diversos canales de terceros, incluyendo datos sobre el historial de compras de un pasajero, su comportamiento de navegación web, geolocalización, actividad en redes sociales, datos biométricos y situación financiera”, dicen tres senadores en una carta remitida al máximo responsable de Delta tras conocerse su plan.
Tras las quejas recibidas, la compañía sacó un comunicado diciendo que no iba a usar información personal de los usuarios para fijar sus precios. Fetcherr, la empresa que ha desarrollado la herramienta de Delta, tiene entre sus clientes a otras aerolíneas como Virgin Atlantic, Westjet, Viva Aerobus o la brasileña Azul.
Una práctica ya conocida
Hace tiempo que los precios son distintos en función del cliente. O eso intentan al menos muchas empresas con capacidad de hacerlo. Está documentado, por ejemplo, que un billete de avión u otros productos pueden salir más caros si se compran desde un iPhone que desde un Android (los teléfonos Apple son más caros que el resto, por lo que este metadato, el dispositivo usado, sirve como indicador de renta). O que, si uno consulta varias veces el precio de un mismo vuelo y al final lo compra, el precio final probablemente será superior al primero que se le mostró.
En España tenemos un ejemplo reciente de este fenómeno. Fueron muy comentadas las subidas de precio de los Uber para volver del festival Mad Cool de Madrid, celebrado este año en Villaverde (al sur de la capital), entre los usuarios que tenían poca batería y que, por tanto, necesitaban con urgencia confirmar el viaje antes de que se les apagara el terminal.
Cobrarle a cada cliente el máximo que está dispuesto a pagar por cada producto en cada momento es una idea que tiene todo el sentido desde un punto de vista estrictamente empresarial. “A nivel teórico, esto tiene que ver con el llamado excedente del consumidor: si estás dispuesto a pagar 200 euros por ir al concierto de tu grupo favorito, pero te cuesta 50, pues vas de cabeza y feliz. Las empresas siempre han intentado capturar parte de ese excedente mediante distintas técnicas. El caso clásico es el de los billetes de avión”, explica Manuel Alejando Hidalgo, profesor de la Universidad Pablo de Olavide y economista de EsadeEcPol.
“En un escenario en el que todas las empresas establezcan precios personalizados, podríamos llegar un momento en el que la extracción de ese excedente fuera casi perfecta. Pero eso tendría efectos colaterales: se reduciría el consumo, porque si el usuario dedica buena parte de sus ingresos a lo que más le gusta, no le queda renta para el resto de cosas”, apunta el académico.
¿Es legal en la UE?
La IA lleva tiempo usándose para fijar los precios de los productos. Amazon, por ejemplo, puede llegar a modificar el importe de sus artículos decenas de veces al día si así lo recomiendan los algoritmos que analizan en tiempo real información sobre la competencia y el comportamiento de los usuarios (por ejemplo, si un producto se vende mucho o poco), así como eventos, clima u otros aspectos que puedan afectar a las ventas.
Pero una cosa es perfeccionar las técnicas de análisis de mercado y otra incorporar a la ecuación la información personal de los usuarios. Ahí es donde la UE pone el límite. “El artículo 22 del Reglamento General de Protección de Datos prohíbe la adopción de decisiones completamente automatizadas basándose en tus datos personales y que afecten a tus derechos o tengan otros efectos relevantes sobre ti”, explica Jorge García Herrero, abogado especialista en protección de datos. “La empresa necesita el consentimiento del interesado para hacer esto”, subraya.
En Estados Unidos, en cambio, el uso de información personal para la fijación de precios personalizados no sería ilegal. Por eso, personalidades como la expresidenta de la FTC, los tres senadores demócratas ya mencionados o el congresista Greg Casar piden que se prohíba. “Creo que todos los estados deberían aprobar prohibiciones sobre los precios basados en vigilancia, especialmente si el Congreso no actúa”, ha dicho Sam Levine, quien fuera director de la Oficina de Protección del Consumidor de Estados Unidos, a propósito del caso Delta. “Tenemos la oportunidad de proteger tanto la privacidad de las personas como la asequibilidad antes de que sea demasiado tarde”.
© Derechos mundiales de prensa en todas las lenguas reservados a Ediciones EL PAÍS, S.L.U.
