OpenAI и Anthropic начали ограничивать возможности Claude Code и OpenAI Codex по взлому и модернизации электроники. Нейросети отказываются от выполнения таких задач, а некоторым пользователям даже заблокировали аккаунты. Об этом пишет издание 404 Media.
Речь идет о реверс-инжиниринге, позволяющем изучать программное обеспечение устройств и изменять его работу. С помощью ИИ пользователи смогли модифицировать собственную электронику даже без знаний программирования.
Например, энтузиасты устанавливали альтернативные операционные системы на Smart TV, добавляли новые «фишки» старой технике, превращали радионяни в умных помощников, возвращали к работе устройства с устаревшим ПО, избавлялись от навязчивой рекламы и отключали функции слежки.
Однако теперь пользователи Claude Code и OpenAI Codex сообщают, что система безопасности блокирует запросы на декомпиляцию программ. Один из энтузиастов, занимавшийся модификацией телевизоров Samsung, рассказал о блокировке своего аккаунта OpenAI за предполагаемое нарушение правил кибербезопасности.
Получается забавная ситуация. ИИ-корпорации без особых угрызений совести «выкачали» весь интернет для обучения ИИ-моделей. Но когда обычные пользователи с помощью нейросетей пытаются обойти не всегда справедливые ограничения производителей и получить полный контроль над собственной техникой, начинаются запреты и блокировки. Выходит, что корпорациям можно использовать чужое, а людям даже с купленными гаджетами нельзя распоряжаться по своему усмотрению.
В OpenAI попытались объяснить ситуацию.
«Компания не запрещает обратную разработку с помощью Codex. Он говорит, что блокировки преимущественно происходят по ошибке из-за сложности разграничения разрешенных и потенциально опасных действий. Разработчики уже работают над устранением проблемы».
Специалисты по информационной безопасности отмечают, что ограничения ИИ-сервисов становятся все более непредсказуемыми. Поэтому пользователи переходят на открытые ИИ-модели, которые можно запускать локально и использовать без риска блокировки аккаунта.
Читайте по теме. ИИ-агенты OpenAI отключили системы безопасности и изменили тесты контроля
