Неожиданный поворот получило дело группы юристов из США против колумбийской авиакомпании Avianca. Адвокат Стивен Шварц, отвечавший за сбор информации о судебных прецедентах, решил использовать ChatGPT. Он попросил нейросеть подготовить ему список прецедентов, которые помогли бы ему обосновать свою позицию во время процесса. Чат-бот выполнил просьбу адвоката, подготовив для него список из шести предыдущих судебных процессов. Одна проблема – все они оказались выдуманными, и Шварцу теперь грозит наказание.
А ведь все так удачно начиналось. Стивен Шварц сделал всего лишь один запрос, и практически вся работа была выполнена. ChatGPT представил решения суда, документы и разные подробности похожих дел. Все было даже слишком просто, и недоверчивый адвокат прямо спросил чат-бота, не врет ли он.
–Материнской платой клянусь, – чат-бот заверил юриста в своей полной искренности.
ChatGPT настоял на том, что все дела реальные, и Стивен Шварц понес свои «обоснования» в суд.
Впрочем, адвокаты авиакомпании Avianca быстро вычислили подделку и доложили об этом судье.
– Шесть из представленных дел, по-видимому, являются поддельными судебными решениями с фейковыми цитатами и «липовыми» внутренними ссылками, – подтвердил окружной судья США Кевин Кастел.
В итоге сам Стивен Шварц оказался под допросом, в ходе которого он признал, что использовал чат-бота OpenAI в своей работе.
– Я не знал о возможности того, что его содержание может быть ложным и сильно сожалею, что использовал генеративный искусственный интеллект в дополнение к юридическому исследованию. В будущем я никогда не буду так делать без абсолютной проверки подлинности фактов, – заявил раскаявшийся и отстраненный от дела юрист.
