Один из основателей OpenAI Илья Суцкевер, недавно покинувший главный ИИ-стартап планеты, открыл новую компанию Safe Superintelligence Inc.
В OpenAI Суцкевер был неотъемлемой частью усилий компании по повышению безопасности ИИ в связи с появлением «сверхинтеллектуальных» систем ИИ. Он работал над этим вместе с Яном Лейком, который возглавлял команду OpenAI по согласованию. Однако и Суцкевер, и Лейке покинули компанию в мае после разногласий с руководством OpenAI по поводу безопасности ИИ. Сейчас Лейк возглавляет команду в конкурирующей компании Anthropic, занимающейся разработкой ИИ.
Суцкевер уже давно проливает свет на аспекты безопасности ИИ. В блоге, опубликованном в 2023 году, он предсказал, что ИИ с интеллектом, превосходящим человеческий, может появиться в течение десятилетия, и что когда это произойдет, он не обязательно будет доброжелательным.
– Мы планируем развивать возможности как можно быстрее, но при этом следить за тем, чтобы безопасность всегда оставалась впереди. Таким образом, мы можем спокойно масштабироваться. Мы не отвлекаемся на накладные расходы руководства или циклы производства, а наша бизнес-модель позволяет обеспечить безопасность, надежность и прогресс, не подвергаясь краткосрочному коммерческому давлению, – написал Илья Суцкевер в своем блоге.
У SSI есть офисы в Пало-Альто и Тель-Авиве, где она в настоящее время набирает технических специалистов.
