Активное внедрение компаниями ИИ-технологий оказывается далеко не безоблачным и успешным. Эксперты отмечают, что бизнес столкнулся с явлением workslop или «засорение работы» – ситуацией, когда чрезмерная зависимость от ИИ постепенно ухудшает качество знаний и структуру рабочих процессов.
В исследовании Harvard Business Review говорится, что организации, сделавшие ставку на ИИ, сталкиваются с так называемым «разрушением знаний» (knowledge decay). Сотрудники начинают терять профессиональные навыки, а компании все сильнее зависят от нейросетей.
В результате низкокачественные материалы, созданные нейросетями, отнимают время у сотрудников, подрывают доверие и постепенно превращают накопленные знания компании в бесполезный набор данных.
Если такая практика распространяется на целые отделы и департаменты, начинает страдать качество работы во всей компании. Проблема усугубляется тем, что ИИ по-прежнему допускает ошибки и «галлюцинации», из-за которых сотрудникам приходится тратить дополнительное время на проверку фактов. Некоторые компании даже были вынуждены нанимать людей специально для работы с workslop, а именно для «отлова» галлюцинаций и исправления ошибок.
По мнению авторов Harvard Business Review, некорректные данные постепенно накапливаются. Из-за этого сотрудники начинают меньше доверять внутренней информации, а риск дорогостоящих просчетов значительно возрастает.
Чтобы остановить деградацию знаний, компаниям приходится вводить дополнительные этапы проверки данных и тщательно отслеживать «галлюцинации». По мнению авторов исследования, общедоступные LLM не дают бизнесу заметной выгоды. Более перспективным вариантом могут стать специализированные модели и использование собственных корпоративных данных.
Читайте по теме. Инфляция оценок: с появлением ChatGPT отличников в вузах США стало больше
