Легендарный «Крестный отец ИИ» Джеффри Хинтон считает, что искусственный интеллект в конце концов захватит власть над человечеством с вероятностью 10-20%. Ученый отмечает, что быстро развивающаяся и слабо регулируемая государствами и обществом ИИ-индустрия представляет ощутимую угрозу для человечества.
– Лучший способ понять это с эмоциональной точки зрения – это сравнить нас с человеком, у которого есть очень милый тигренок. Если вы не можете быть уверены, что он не захочет убить вас, когда вырастет, вам стоит беспокоиться. Люди еще не осознали, что их ждет, – считает Хинтон.
Джеффри Хинтон считается одним из основоположников технологии искусственного интеллекта. Его идеи создали техническую основу для создания таких масштабных моделей, как ChatGPT, включая первый практический способ сквозного обучения глубоких стеков искусственных нейронных сетей.
Несмотря на свой вклад в развитие технологий, Хинтон давно предупреждал о возможных последствиях, если развитие нейросетей будет продолжаться с такой же скоростью и без серьезного контроля.
– Что сейчас делают крупные компании? Они лоббируют уменьшение регулирования ИИ. Регулирования и так почти нет, но они хотят его дальнейшего ослабления, – отмечает эксперт.
Джеффри Хинтон не является противником технологий. Он считает, что технология способна изменить образование, медицину, науку и, возможно, решить проблему изменения климата. Однако он говорит, что компании должны направлять существенные ресурсы на совершенствование безопасности ИИ-технологий.
