Сервис Tripadvisor в 2023 году запустил на сайте функцию ИИ-обозревателя, объединяющую в короткие сводки отзывы об отелях, чтобы пользователям не приходилось читать сотни длинных текстов. Однако она оказалась довольно ненадежной. Проверка британской организации Which? показала, что алгоритм нередко смягчает и даже скрывает серьезные жалобы гостей, создавая позитивное впечатление о плохих курортах.
Так, один из отелей на островах Кабо-Верде ИИ-обозреватель описал как «безупречно чистый», забыв рассказать, что в гостинице произошло массовое отравление гостей.
Еще один пример – отель в Турции. Клиенты оставляли многочисленные жалобы на случаи сексуальных домогательств во время отдыха. Однако ИИ-помощник похвалил отель за «дружелюбный сервис», упомянув об «отдельных недостатках в обслуживании».
По словам экспертов, такие ошибки особенно опасны, потому что люди используют краткие сводки для быстрого выбора места отдыха и могут даже не открывать полные отзывы.
В Which? советуют не полагаться только на выводы подобных ИИ-помощников. Вместо этого туристам рекомендуют самостоятельно читать отзывы гостей, особенно с самыми низкими оценками, а также сравнивать информацию на нескольких сайтах.
Специалисты объясняют, что подобное поведение характерно для многих современных ИИ-моделей. Они часто стараются сглаживать негативные формулировки и делать текст более «вежливым», даже если это искажает реальную картину. Эксперты напоминают, что это далеко не первый случай, когда ИИ-сервисы «вешают лапшу на уши» туристов. Ранее чат-боты уже отправляли путешественников к несуществующим достопримечательностям.
Один из самых известных случаев произошел в Перу, где туристы искали «священный каньон», оказавшийся галлюцинацией нейросети. В Tripadvisor пообещали разобраться в ситуации и «перевоспитать» ИИ-обозревателя, чтобы тот стал более честным и объективным.
Читайте по теме. Фальшивые отзывы могут испортить летний отпуск – TripAdvisor
