Обзоры с помощью искусственного интеллекта, встроенные в поисковике Google, оказались наполненными галлюцинациями и отсылками к юмористическим постам. Социальные сети пестрят глупыми ответами нейросети AI Overview.
Играла ли когда-нибудь собака в NBA? AI Overview от Google считает, что да. Какие есть способы предотвратить соскальзывание сыра с пиццы? Нейросеть рекомендует добавить 1/8 стакана нетоксичного клея, ссылаясь на саркастический пост на Reddit от 2013 года. В другом случае ИИ неверно определил ядовитый гриб, сказав, что это обычный шампиньон.
Прошло чуть больше недели с тех пор, как Google открыла доступ к своим ИИ-обзорам для всех пользователей США, а в социальных сетях уже появляются сообщения о галлюцинациях. Запутанные или ложные ответы ИИ – известная проблема, но теперь они в полной мере проявляются в самой популярной поисковой системе.
– Люди очень позитивно реагируют на AI Overview. Это одно из самых оптимистичных изменений, которые я видел в поиске, – говорит генеральный директор Google Сундар Пичаи. – Люди больше заинтересованы в них, чем в традиционных результатах поиска, основанных на ссылках. Впрочем, от нейросети нельзя ожидать идеальных результатов каждый раз.
Как Google решает, какую информацию выводить на поверхность в каждом ответе с помощью искусственного интеллекта? В идеальном мире он сканирует свои обучающие данные и выдает только хорошо изученную или широко распространенную информацию. Однако в примере с приклеиванием сыра на пиццу он, похоже, предпочел процитировать шутку на Reddit.
Зафиксирован еще один случай. Пользователь в шутку написал в своей соцсети, что является обладателем нескольких наград. Сделав через некоторое время запрос о самом себе, он обнаружил, что упоминания о регалиях уже появились в Google AI Overview.
Впрочем, Сундар Пичаи предпочитает смотреть на галлюцинации с позитивной точки зрения.
– LLM не всегда являются лучшим подходом для получения фактов. Галлюцинация – это все еще нерешенная проблема. В некотором смысле это неотъемлемая черта. Это то, что делает эти модели творческими, – резюмирует глава Google.
