Реальная опасность или маркетинговый трюк? Компания Anthropic выступила с неожиданным предложением: временно замедлить или полностью приостановить разработку ИИ в мировом масштабе. Поводом стала обеспокоенность тем, что технологии развиваются быстрее, чем общество успевает выработать инструменты управления ими.
Anthropic предупреждает: нынешняя скорость прогресса уже указывает на то, что в обозримом будущем ИИ-системы смогут самостоятельно создавать новые ИИ-модели.
«Это может произойти раньше, чем большинство институтов успеют подготовиться, — говорится в публикации компании. – Подобный сценарий несет как колоссальные возможности (в медицине, науке, образовании), так и серьезные риски утраты человеческого контроля над технологией».
Ключевое условие для реализации такого сценария – полноценный контроль. Если ряд компаний тайно продолжат разработки, пока другие соблюдают договоренность, баланс сил нарушится. Компания признает сложность задачи, но приводит в качестве аналогии международные договоры о ядерном разоружении.
Предложение компании подкреплено деятельностью Anthropic Institute. Его миссия – изучать риски, возникающие по мере усложнения ИИ-систем, и публично сообщать о результатах. В ближайшие месяцы институт планирует провести переговоры с регуляторами, учеными и представителями индустрии, а итоги опубликовать в открытом доступе.
Впрочем, призыв Anthropic встретил скептицизм среди некоторых экспертов. Критики указывают, что предупреждения компании о собственных технологиях выглядят как хитрый маркетинговый ход: такая риторика позиционирует разработчика как «ответственную альтернативу» на фоне конкурентов.
Он станет хорошим! Anthropic избавила Claude от склонности к шантажу
