Исследователи из Берлинского университета Гумбольдта обнаружили, что продвинутые модели искусственного интеллекта научились притворяться менее умными. Неожиданное открытие ученые сделали, когда при помощи различных языковых моделей имитировали этапы изучения языка у детей.
– Благодаря психолингвистике у нас есть относительно полное понимание того, на что способны дети в разном возрасте. В частности, теория разума играет значительную роль, поскольку она исследует внутренний мир ребенка, и ей нелегко подражать, наблюдая простые статистические закономерности, – говорит эксперт по психолингвистике Анна Маклова.
Опираясь на теорию разума, ориентированную на детей, исследователи попытались определить, может ли GPT-4 от OpenAI, притворяться менее умным, чем он есть на самом деле.
Чтобы выяснить это, исследовательская группа проинструктировала модели при ответе вести себя как ребенок в возрасте от одного до шести лет. Когда они прошли серию из более чем 1000 испытаний и когнитивных тестов, оказалось, что эти «искусственные дети» действительно вели себя как отроки этого возраста. ИИ-модель доказала, что может притворяться.
Ученые считают, что оценивание ИИ по человеческим меркам бесполезно и опасно.
– В процессе разработки AGI, мы должны быть осторожны и не требовать, чтобы они имитировали человеческий и, следовательно, ограниченный интеллект. Возможность ИИ притворяться говорит о том, что мы можем недооценивать их возможности в течение длительного периода, что небезопасно, – резюмирует Анна Маклова.
