CEO Anthropic Дарио Амадеи (Dario Amodei) неожиданно для многих заявил очевидное, но редко озвучиваемое вслух: создатели искусственного интеллекта сами не до конца понимают, как работает эта технология.
Амодеи рассказал о планах создать своего рода «МРТ для ИИ» в течение следующего десятилетия – инструмент, который позволит заглянуть вглубь моделей и понять, почему они принимают те или иные решения. По его словам, текущий уровень непонимания – это не просто неудобство, а источник потенциальной опасности.
– Когда генеративный ИИ, например, подводит итоги финансового документа, мы не можем точно сказать, почему он выбирает одни слова, а не другие, или почему делает ошибку там, где обычно работает корректно», – пишет Амодеи.
По его мнению, эта «черная коробка» без прецедентов в истории технологий. Ни один другой инструмент, от автомобилей до самолетов, не работал бы без четкого понимания его механики. Но ИИ создается иначе: огромные объемы данных, статистика, вероятностные алгоритмы – и никакого осознанного конструирования на основе первых принципов.
Именно это незнание, утверждает Амодеи, и стало причиной его ухода из OpenAI в 2020 году – тогда он и его сестра Даниэла покинули компанию, обеспокоенные тем, что безопасность была принесена в жертву прибыли. Вместе с группой единомышленников они основали Anthropic, сделав ставку на «безопасный ИИ» и интерпретируемость моделей.
– Перед тем как модели станут чрезмерно мощными, у нас еще есть шанс разобраться, как они работают, – резюмирует Амодеи. – Создавать системы, которые мы не контролируем и не объясняем, – опасная игра.
