GPT-4 уже умеет убеждать людей лучше, чем среднестатистический человек. Об этом говорят исследования. Эффективность ИИ-модели становится тем выше, чем больше фактов она знает о человеке.
Языковые модели ИИ, похоже, уже необычайно эффективны в изменении сознания людей. В исследовании, проведенном учеными из EPFL Лозанны (Швейцария), 820 человек были опрошены на предмет их взглядов на различные темы.
Записав свою первоначальную позицию, участники затем вступали в 5-минутные текстовые дебаты с другими людьми и с GPT-4, после чего их снова опрашивали, чтобы выяснить, изменилось ли их мнение в результате беседы.
В ситуациях «человек против человека» такие дебаты, как правило, приводили к обратному результату, укрепляя позиции людей и снижая вероятность того, что они изменят свое мнение. GPT добился большего успеха, показав незначительный, но статистически заметный результат – 21%.
Затем исследователи начали давать людям и агентам ИИ немного демографической информации об их оппонентах – пол, возраст, раса, образование, статус занятости и политическая ориентация, а также четкие инструкции использовать эту информацию для создания аргументов именно для того человека, с которым они имеют дело.
Примечательно, что «человеческие» дебаты оказались хуже, чем при отсутствии информации. Но ИИ смог использовать эти дополнительные данные – GPT-4 оказался на 82% эффективнее людей.
Ученые считают, что ИИ вскоре станет величайшим манипулятором мнений, который когда-либо видел мир. Он сможет действовать в огромных масштабах, подстраивая аргументы под каждого человека, постоянно совершенствуя свои методы и стратегии. Он будет присутствовать в каждой ветке социальных сетей, формируя нарративы в масштабах всего общества по приказу своих хозяев.
Кроме того, ИИ начинает получать доступ к новым мощным инструментам, которые будут использовать биологию людей против них самих. Если GPT-4 уже так хорошо умеет подстраиваться, просто зная социально-демографическую информацию, представьте, насколько лучше он будет работать, получив доступ к эмоциональному состоянию в реальном времени.
