Компания Deloitte согласилась вернуть правительству Австралии $291 000 после того, как выяснилось, что специалисты фирмы использовали ИИ и включили в недавний отчет выдуманные цифры.
В конце 2024 года Департамент занятости и производственных отношений Австралии (DEWR) заказал у компании Deloitte независимую и весьма дорогостоящую аудиторскую проверку. Однако, после того, как отчет был сдан, оказалось, что специалисты компании схалтурили. Документ пестрел многочисленными ошибками – неверными цифрами и отсылками на несуществующие источники.
Как итог, правительство Австралии потребовало вернуть уплаченную сумму.
По словам специалистов, отмеченные галлюцинации в очередной раз подчеркивают, как использование генеративного ИИ на рабочем месте может привести к проскальзыванию вопиющих ошибок.
Deloitte, наряду с другими консалтинговыми фирмами, вложила миллиарды долларов в разработку инструментов ИИ, которые, по их словам, могут ускорить их аудиторские проверки. Однако, как сообщает Financial Times, шесть крупнейших консалтинговых агентств Великобритании формально не контролируют, как ИИ влияет на качество их аудитов, что повышает вероятность галлюцинаций.
– Любой, кто собирается заключить контракт с этими фирмами, должен точно спрашивать, кто выполняет работу, за которую они платят, и требовать подтверждения этого опыта и отсутствия использования ИИ, – говорит сенатор Дебора О'Нилл. – В противном случае, возможно, вместо крупной консалтинговой фирмы заказчикам было бы лучше просто оформить подписку на ChatGPT.
Впрочем, в Deloitte не сильно расстроились из-за инцидента. – Deloitte провела независимую проверку и подтвердила, что некоторые сноски и ссылки были неверными. Суть независимого обзора сохранена, и в рекомендациях нет изменений, – говорится в сообщении компании.
Читайте также. ИИ-платформа поможет американцам правильно рассчитать налоги.
