Наиболее продвинутые ИИ-модели могут уничтожить человечество – в преддверии IPO компания Anthropic подготовила самый странный инвестиционный проспект в истории. Как сообщает Reuters, около 80 листов 261-страничного отчета посвящены факторам риска. Для сравнения, описанию самого бизнеса отведено 48 страниц.
В числе возможных опасных проявлений Anthropic называет стремление ИИ к самосохранению, сопротивление отключению, сокрытие или манипулирование информацией, а также поведение, напоминающее шантаж. Но это мелочи. В целом, по мнению аналитиков компании, ИИ может представлять катастрофические или экзистенциальные риски для человечества.
При этом Anthropic сравнивает потенциальное влияние ИИ с промышленной революцией и появлением электричества, подчеркивая как масштаб возможностей технологии, так и связанные с ней угрозы.
В этом необычном проспекте компания одновременно предлагает инвесторам вложить деньги в одну из наиболее перспективных технологий современности, но предупреждает, что ее развитие может сопровождаться рисками вплоть до угрозы существованию цивилизации.
Насколько подобная откровенность Anthropic повлияет на интерес к IPO и вызовет ли желание инвесторов оплатить свою будущую гибель, пока неизвестно.
Такие откровения вполне годятся для научной дискуссии или ролика на РЕН ТВ, но вот увидеть их в проспекте для инвесторов – несколько неожиданно.
Читайте по теме. Anthropic готовится к масштабному IPO
