Пользователи с помощью ИИ-модели Claude пять раз пытались провести исследования, посредством которых можно было бы создать биологическое оружие. В компании Anthropic утверждают, что своевременно заблокировали эти попытки. Об этом пишет The New York Times.
Инциденты произошли в период с декабря 2025 года по август 2026 года. Anthropic не стала утверждать, что во всех случаях пользователи намеревались создать именно биологическое оружие. В компании признали, что не всегда могли отличить опасные исследования от легитимной научной работы. Проблема в том, что одни и те же методы могут применяться как для разработки вакцин, так и для создания более опасных вариантов вирусов.
В одном из наиболее показательных случаев ученый запросил у Claude помощь с заявкой на финансирование исследований вируса чикунгунья. Предполагалось экспериментально изменить вирус так, чтобы он становился более опасным при заражении лабораторных животных. Дополнительную тревогу Anthropic вызвало то, что исследования планировалось проводить в военном научном учреждении.
Также некоторые пользователи пытались обходить региональные ограничения и скрывать истинные цели своих запросов. Выявив подозрительную активность, Anthropic заблокировала аккаунты и усилила защиту ИИ-моделей.
Отмечается, что современные версии Claude значительно лучше справляются со сложными научными задачами, чем предыдущие модели. Поэтому Anthropic считает необходимым ужесточать ограничения на использование ИИ в биологических исследованиях двойного назначения.
Читайте по теме. IT-гиганты боятся, что ИИ создаст биологическое оружие
