ChatGPT собирает подробные сведения о пользователях и формирует их точные цифровые портреты. К такому выводу пришла международная группа ученых из Германии, Нидерландов и Индии. По их словам, чат-бот сохраняет личные данные, привычки и психологические особенности людей.
В рамках исследования 80 человек переписывались с ChatGPT по разным вопросам. После таких «разговоров» чат-бот сохранил в памяти данные о 65 собеседниках. 96% этих записей были созданы самим чат-ботом без просьбы или участия пользователей. Из них 28% отметок содержали персональные данные, а 52% включали сведения о психологических особенностях людей.
«Раньше у платформ была одна цель: продавать вам рекламу. Поэтому они собирали данные о ваших потребительских предпочтениях», – говорит ведущий автор исследования Абхисек Даш. «Но теперь они хотят узнать о вас больше, чтобы разговор был продуктивным. Сегодня чат-бот выступает в роли советника, друга, врача, юриста и поэтому собирает информацию обо всем».
Такая персонализация имеет преимущества и риски. Благодаря тому, что чат-боты запоминают пользователей, им не приходится каждый раз заново объяснять свои предпочтения и обстоятельства. Однако исследователи опасаются, что подробные цифровые профили могут использоваться для усиления предубеждений, манипуляций и формирования чрезмерной эмоциональной зависимости от ИИ.
Ученые считают, что механизмы формирования цифровых профилей требуют более пристального изучения, учитывая то, насколько откровенно люди общаются с чат-ботами.
Читайте по теме. OpenAI наконец запускает безопасный ChatGPT для подростков
