«Суперинтеллект» может быть опасен для человечества. Более 850 известных людей, среди которых сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, а также ведущие ученые и инженеры в области искусственного интеллекта, подписали обращение с призывом остановить разработку так называемого «суперинтеллекта» – ИИ, который мог бы превзойти человека по всем умственным способностям.
Среди подписавших – «отцы современной ИИ-индустрии» Йошуа Бенджио и Джеффри Хинтон, а также известный профессор Калифорнийского университета в Беркли Стюарт Рассел.
– ИИ может превзойти большинство людей в умственных задачах уже в ближайшие годы. Это может помочь решать глобальные проблемы, но и несет огромные риски. Нам нужно научно доказать, что такие системы не способны причинить вред – намеренно или случайно. И общество должно иметь больше влияния на решения, которые формируют наше будущее, – отметил Йошуа Бенджио.
Авторы заявления предупреждают, что создание сверхразумного ИИ может привести к потере рабочих мест, снижению личной свободы и безопасности, а в худшем случае – даже к угрозе существованию человечества.
Они предлагают ввести временный запрет на разработку суперинтеллекта, пока не будет достигнуто широкое общественное согласие и научное понимание того, как сделать такую технологию безопасной и управляемой.
К обращению также присоединились принц Гарри и Меган Маркл, бывшая президент Ирландии Мэри Робинсон и другие известные личности.
«Суперинтеллект» – одна из самых обсуждаемых тем в ИИ-индустрии. Компании вроде OpenAI (Сэм Альтман), xAI (Илон Маск) и Meta активно соревнуются в создании все более продвинутых языковых моделей.
Но даже сами лидеры индустрии признают риски. Еще в 2015 году Сэм Альтман писал, что создание сверхчеловеческого интеллекта может стать «величайшей угрозой существованию человечества».
Илон Маск в этом году заявил, что шанс «уничтожения цивилизации из-за ИИ» он оценивает примерно в 20%.
