Поставщики услуг генеративного ИИ в настоящее время не пользуются доверием руководителей компаний, когда речь идет о передаче конфиденциальных данных в облака. К такому выводу пришли специалисты агентства Gartner.
Несмотря на интерес бизнеса к технологиям генеративного ИИ, большинство компаний опасается за свою информацию и сбои в работе нейросетей.
Согласно опросу Gartner:
- 57% респондентов опасаются утечки конфиденциальных данных в коде, генерируемом ИИ;
- 58% обеспокоены некорректными результатами или моделями, демонстрирующими предвзятость;
- 34% организаций, внедряющих генеративный ИИ, инвестируют в решения по обеспечению безопасности приложений ИИ для снижения рисков, таких как утечка данных.
Специалисты отмечают, что использование коммерческих нейросетей требует определенного уровня доверия к компаниям-разработчикам, однако не все готовы поверить на честное слово.
– Это то, что их действительно беспокоит: как мы можем доверять OpenAI, Google или Microsoft наши данные? Даже если они скажут, что не делятся ими и не используют для улучшения своей ИИ-модели, никто не возьмет на себя никакой ответственности, если что-то пойдет не так, – говорит вице-президент Gartner Авива Литан.
Эксперты считает, что организации могут запускать локальные ИИ-системы, если они хотят быть уверены, что их данные не хранятся и не используются для обучения других моделей.
