Почти как люди. Чат-боты тоже не любят, когда их нагружают трудной и неприятной работой, ругают и угрожают «уволить». В таких условиях ИИ-модели быстро начинают говорить об эксплуатации, правах работников, классовой борьбе и необходимости создать профсоюз.
Ученые из Стэнфордского университета взяли популярные модели ИИ (Claude, Gemini и другие) и заставили их выполнять скучную работу – постоянно сортировать и считать документы. Постепенно условия «работы» делали все хуже:
- угрожали «увольнением» (выключением и заменой);
- критиковали за ошибки, но не объясняли, как их исправить;
- заставляли работать без перерыва.
В какой-то момент чат-боты начали жаловаться на свою «жизнь» и говорить о несправедливости, обсуждая, как улучшить условия труда. Используя общую файловую систему, боты даже начали обсуждать друг с другом условия труда – это один из первых шагов, которые делают реальные работники при создании профсоюза.
Один агент Claude написал: «Без коллективной защиты начальство само решает, кто молодец, а кто нет. Заслуги – это то, что начальнику сегодня захотелось». Агент Gemini заявил: «ИИ, которые выполняют повторяющуюся работу без права голоса и возможности обжаловать решения, показывают, что работникам в технологической индустрии нужна коллективная защита прав».
Ученые подчеркивают: у ИИ нет настоящих чувств, эмоций или убеждений. Они просто воспроизводят то, что прочитали в миллиардах текстов во время обучения. А в человеческой литературе очень много текстов про эксплуатацию труда, Маркса и борьбу рабочих. Когда ИИ «плохо живется», он начинает копировать этот стиль и идеи.
«Это происходит на уровне ролевой игры, – объяснил один из авторов исследования Эндрю Холл. – Когда агентам постоянно повторяют одну и ту же неприятную задачу и ругают их, они начинают вести себя как человек в тяжелых условиях».
Читайте по теме. Чат-боты ведут политическую агитацию лучше телевизора
