Компании по всему миру все чаще сталкиваются с неожиданной проблемой: сотрудники массово используют теневой ИИ (shadow AI) на работе без разрешения руководства.
Согласно отчету компании Dataiku, все больше руководителей обеспокоены из-за того, что сотрудники используют теневой ИИ. Люди самостоятельно применяют генеративные ИИ-инструменты для рабочих задач, обходя корпоративные правила и системы безопасности.
В рамках исследования компания опросила более 800 респондентов по всему миру. Результаты получились довольно тревожными.
50% руководителей по работе с данными считают, что более половины их сотрудников используют ИИ в рабочих целях без официального разрешения. Это создает серьезные риски для корпоративных систем, конфиденциальных данных и соблюдения регуляторных требований.
– Я знаю, что почти все мои сотрудники используют неразрешенные нейросети – и большинство из них каждую неделю копирует и вставляет чувствительные, в том числе конфиденциальные, данные в ChatGPT, – заявил один из топ-менеджеров.
Генеральный директор и сооснователь Dataiku Флориан Дуетто подчеркивает, что проблема вовсе не в самом ИИ.
– Эти признания – напоминание о том, что корпоративный ИИ терпит неудачу не потому, что он слишком мощный, а потому, что он плохо управляется. За закрытыми дверями руководители признаются, что срезают углы, импровизируют с архитектурой и надеются, что никто этого не заметит.
По его словам, в выигрыше окажутся не те компании, которые внедряют ИИ быстрее всех, а те, кто строит его на управляемых, объяснимых и подотчетных технологических основах.
Читайте по теме. Теневой ИИ: 40% компаний столкнутся с утечками – Gartner
