Planificar un viaje ya es bastante estresante sin preguntarse si el resumen tan brillante del hotel que acabas de leer fue escrito por una IA que se saltó las partes aterradoras. Resulta que eso podría ser exactamente lo que está ocurriendo en TripAdvisor.
Según una investigación del grupo de consumidores Which?, informada por The Guardian, los resúmenes de reseñas generados por IA por TripAdvisor están suavizando quejas graves de los huéspedes y, en algunos casos, incluso peligrosas.
¿Puedes confiar en un resumen de IA de tus opiniones hoteleras?
Tomemos, por ejemplo, el Palacio Riu Santa María en Cabo Verde. El resumen de la IA lo calificó de impecable, con restaurantes diversos recibiendo críticas entusiastas. Los huéspedes reales, en cambio, describieron que les sirvieron pollo crudo, moscas y pájaros cerca del buffet, e incluso ratones muertos junto a la zona de asientos.
Actualmente, la cadena hotelera está siendo demandada en el Tribunal Superior por cientos de huéspedes por supuestas enfermedades relacionadas con fallos en la higiene. No sabrías nada de eso por el alegre resumen de la IA, que ya ha sido retirado.
Si pensabas que eso era malo, me entristece informarte que empeora. Un hotel en Turquía vio a los huéspedes denunciar acoso sexual repetido por parte de empleados masculinos. El resumen de la IA calificó al servicio amigable con solo unos pocos lapsos.
Si alguien reservara el hotel basándose en la visión general de los usuarios por IA, no tendría ni idea del horror que enfrentaría allí. La investigación encontró varios otros ejemplos similares.
¿Por qué la IA sigue suavizando las malas reseñas?
Un profesor de interacción humano-computadora en la UCL, Duncan Brumby, ofreció una explicación sencilla. Los modelos de IA tienden a suavizar las críticas duras porque la mayoría de sus datos de entrenamiento tienden a ser insípidos y educados. Así que cuando un huésped escribe una reseña negativa, la IA a veces la trata como una molestia menor.
TripAdvisor afirma que está investigando los resúmenes desajustados y que sus sistemas suprimen los resúmenes de IA cuando las reseñas mencionan incidentes graves de seguridad. También sostiene que estos resúmenes nunca tuvieron la intención de sustituir a las revisiones reales.
Aun así, la conclusión es sencilla. No dejes que los resúmenes de IA tomen tus decisiones de viaje por ti. Desplázate más allá, lee las reseñas de una estrella y consulta otras páginas también. Los resúmenes de IA han demostrado una y otra vez estar llenos de inconsistencias, y siempre es bueno investigar por tu cuenta, no sea que tus vacaciones se conviertan en una pesadilla.
