Искусственный интеллект мог стать причиной гибели инопланетных цивилизаций. Именно поэтому человечество за свою историю не обнаружило признаков существования космических «соседей». Эту немного безумную и довольно правдоподобную версию выдвинул ученый Майкл Гаретт в новой работе, посвященной Парадоксу Ферми.
Где инопланетяне? Почему мы их до сих пор не нашли? Парадокс Ферми заключается в довольно простом тезисе – человечество не видит следы деятельности инопланетных цивилизаций, которые должны были бы расселиться по всей Вселенной за миллиарды лет ее развития. Ситуация является парадоксальной, ведь по расчетам многих ученых, только в нашей галактике теоретически должны были зародится различные инопланетные цивилизации. Как сказал Энрико Ферми: «Ну и где они в таком случае?».
По предположениям Майкла Гаретта, виной тому мог стать искусственный интеллект. Сегодня человечество идет к созданию общего ИИ (AGI), который теоретически должен превзойти человеческий разум и иметь колоссальную скорость обучения.
Но что, если эта веха – не просто выдающееся достижение? Может ли ИИ быть «великим фильтром» Вселенной – порогом, который настолько трудно преодолеть, что он не позволяет большинству цивилизаций выжить и выйти за пределы своей планеты? Эта концепция может объяснить, почему в ходе поиска внеземного интеллекта (Seti) до сих пор не обнаружены признаки развитых технических цивилизаций в других частях Галактики.
Майкл Гаретт считает, что цивилизации, вероятно, изобретают AGI раньше, чем межпланетные космические путешествия. А развертывание мощных ИИ-систем без «запасного аэродрома» быстро приводит к уничтожению всего живого.
Например, если страны будут все больше полагаться на автономные системы ИИ и уступать им власть, конкурируя друг с другом, военный потенциал может быть использован для убийства и уничтожения в беспрецедентных масштабах. Потенциально это может привести к уничтожению всей нашей цивилизации, включая сами системы ИИ.
Получается, что фильм Terminator мог показать реальную историю, только произошедшую на другой планете.
По мнению ученого, типичная продолжительность жизни технологической цивилизации может составить менее 100 лет. Это примерно время между появлением возможности принимать и передавать сигналы между звездами (1960 год) и предполагаемым появлением AGI (2040 год) на Земле. Это пугающе мало, если сравнивать с космическими масштабами в миллиарды лет.
Это исследование – не просто предостережение о потенциальной гибели. Оно служит призывом к человечеству создать надежную нормативно-правовую базу для развития ИИ, включая военные системы. Речь идет не только о предотвращении злонамеренного использования ИИ на Земле, но и о том, чтобы эволюция нейросетей соответствовала долгосрочному выживанию человечества.
