Команда Ильи Суцкевера из OpenAI создала инструменты для управления «сверхчеловеческим» искусственным интеллектом (AGI). Специалисты обещают, что новое ПО позволит эффективно сдерживать ИИ, чтобы ото не ополчился на человечество.
– Мы считаем, что суперинтеллект – ИИ, значительно превосходящий человека, – может быть создан в течение ближайших десяти лет. Выяснение того, как настроить будущие сверхчеловеческие системы ИИ на безопасность, никогда не было столь важным, и сейчас как никогда легко добиться эмпирического прогресса в решении этой проблемы, – говорится в сообщении OpenAI.
«Обобщение от слабого к сильному» – это первая работа команды Ильи Суцкевера и Яна Лейке направленная на то, чтобы системы ИИ следовали человеческим правилам.
В настоящее время OpenAI использует людей для «выравнивания» ChatGPT, давая ему положительные или отрицательные отзывы. Именно так OpenAI гарантирует, что ИИ не даст пользователям инструкцию по изготовлению напалма или биологического оружия в домашних условиях.
По мере того как ChatGPT будет становиться все умнее, OpenAI признает, что людей для обучения этих моделей будет недостаточно, поэтому нам необходимо обучить менее сложный ИИ, который сделает это от нашего имени.
