Недавно США впервые в истории применили экспортные ограничения напрямую к ИИ-модели. По распоряжению администрации Трампа, пишет Techspot, компания Anthropic заблокировала доступ к новейшим моделям Fable 5 и Mythos по всему миру. Компания выполнила распоряжение правительства в течение 90 минут. Причиной таких экстренных мер стали опасения, что ИИ-модели представляют собой огромную опасность для национальной безопасности.
Позже выяснилось, что в ходе испытаний коммерческая модель Mythos сумела обойти защиту и проникнуть практически во все засекреченные системы АНБ. Процесс занял считанные часы. Официально ведомства это не комментируют, но именно данный инцидент называют главной причиной жестких мер правительства.
Отмечается, что Mythos изначально создавалась для поиска уязвимостей в кибербезопасности. Из-за сверхвысокой эффективности Anthropic не стала выпускать ее в открытый доступ, ограничив круг тестеров (среди них Amazon, Apple, Microsoft, Google). Модель уже нашла тысячи реальных багов, включая 27-летнюю уязвимость в OpenBSD.
Модель Fable 5 стала общедоступной и безопасной версией Mythos. Разработчики уверяли, что встроенные фильтры безопасности нейтрализуют потенциально опасные запросы. Однако правительство США пришло к выводу, что эти барьеры ненадежны.
Поводом для блокировки стал обход ограничений. О методе взлома Fable 5 министерство торговли США предупредила компания Amazon.
Внезапный бан отрезал от технологий даже ближайших союзников США: Великобританию, Австралию, Канаду и Новую Зеландию. Сейчас Anthropic экстренно внедряет систему верификации гражданства США, чтобы вернуть доступ к Fable 5 хотя бы на внутреннем рынке.
В то же время европейские страны заговорили о необходимости достижения полного технологического суверенитета, понимая, что США могут в любой момент отключить критические облачные ИИ-сервисы.
Читайте по теме. Anthropic отключила новые ИИ-модели из-за требования властей США
