ИИ может сделать биологическое оружие. Мировые ИИ-разработчики, такие как OpenAI, Anthropic и Microsoft, просят американское правительство ввести многоступенчатый контроль за ИИ-моделями в сфере синтетической биологии. В противном случае, всему миру может угрожать опасность.
Технологические гиганты отмечают, что современные ИИ-модели способны существенно снизить порог входа в синтетическую биологию: они предоставляют подробные протоколы и пошаговые инструкции, понятные даже людям без специального образования.
Особую опасность представляет способность ИИ-агентов не просто воспроизводить учебные материалы, но и предлагать нестандартные способы синтеза токсинов, помогать с подбором оборудования и налаживать сам процесс производства.
Чтобы не сдерживать законные биотехнологические исследования, например, разработку лекарств и вакцин, ИИ-компании предлагают не запреты, а многоуровневую систему контроля доступа: чем выше потенциальный риск модели, тем строже проверка пользователей.
IT-гиганты считают, что саморегулирование рынка в данном случае невозможно. Если раньше биологическое оружие способны были создать только государства или крупные компании, то сегодня передовые ИИ-модели могут вооружить опасными знаниями экстремистские группировки.
Привет, Skynet! В военных симуляциях ИИ почти всегда применяет ядерное оружие
