ИИ-технологии уничтожат человечество с вероятностью 33%, и это приемлемый риск. Anthropic Institute недавно взял на работу известного экономиста, профессора Стэнфордского университета Чада Джонса. Он прославился своими прогнозами, в которых оценил угрозы нейросетей для будущего нашей цивилизации. Об этом рассказывает Financial Times.
В научной работе Джонс построил экономическую модель, где сравнил возможные выгоды от развития ИИ-технологий и вероятность глобальной катастрофы.
Согласно его расчетам, вероятность полного исчезновения людей составляет примерно 33%. Но это не беда! Ведь общие шансы на выживание достаточно высоки и составляют 67%. Более того, если человечество не вымрет, то ИИ-технологии повысят уровень жизни людей во много раз, и наступит, буквально, эра благоденствия.
Или не наступит… с вероятностью 33%.
Такие выводы вызвали резкую критику. Многие пользователи социальных сетей заявили, что подобные расчеты неприемлемы, когда речь идет о существовании всего человечества. Один из комментаторов отметил, что подобные вопросы нельзя рассматривать как математическую задачу, поскольку цена ошибки – исчезновение человеческой цивилизации.
Назначение Джонса выглядит особенно примечательным на фоне репутации Anthropic. Компания регулярно предупреждает о потенциальных рисках сверхмощного искусственного интеллекта и позиционирует себя как одного из лидеров в области безопасной разработки ИИ.
Читайте по теме. ИИ мог уничтожить инопланетные цивилизации – ученый
