Компания Anthropic оказалась под жестким давлением со стороны властей США – президент Дональд Трамп и глава Пентагона Пит Хегсет фактически выписали компании черную метку. Трамп распорядился всем федеральным ведомствам США немедленно прекратить использование технологий Anthropic. Хегсет присвоил компании статус «риска для национальной безопасности цепочки поставок». Обычно такое предупреждение получают иностранные компании из недружественных стран. Оно обязывает подрядчиков Минобороны подтверждать, что они не используют продукты Anthropic.
Причиной конфликта стала, как бы это странно ни звучало в наши непростые времена, морально-этическая сторона. Американские военные хотели получить широкие права для использования моделей Claude в военных и других операциях. Anthropic настаивала на гарантиях, что ее ИИ не будет применяться для полностью автономного оружия или массовой слежки за американцами. Переговоры зашли в тупик, и это вызвало негодование в Вашингтоне.
Впрочем, Пентагон не остался без подрядчика. Глава OpenAI Сэм Альтман сообщил, что его компания достигла соглашения с Пентагоном. В сообщении в соцсети X он написал, что OpenAI развернет свои модели в засекреченной сети ведомства. По его словам, Министерство обороны проявило «глубокое уважение к вопросам безопасности» и готовность к партнерству.
Интересно, что ранее Альтман заявлял сотрудникам: у OpenAI те же «красные линии», что и у конкурентов. Речь идет о запрете на внутреннюю массовую слежку и о том, что ответственность за применение силы должна оставаться за человеком, включая системы автономного оружия. По словам главы OpenAI, Пентагон согласился включить эти принципы в соглашение. В свете этого заявления не совсем понятно, из-за чего тогда случился конфликт с Anthropic.
В OpenAI заявили, что внедрят технические меры контроля поведения моделей и направят специалистов для сопровождения и контроля за использованием ИИ-моделей. Альтман также призвал власти предложить аналогичные условия всем разработчикам нейросетей и выразил надежду на деэскалацию конфликта вокруг отрасли.
В самой Anthropic сообщили, что «глубоко опечалены» решением Пентагона и намерены оспорить присвоенный статус в суде. Ситуация остается напряженной и может серьезно повлиять на расстановку сил на рынке военных ИИ-технологий.
Читайте по теме. Anthropic обвинила китайские ИИ-компании в массовом «выкачивании» данных
