ИИ умеет определять, кто с ним общается – мужчина или женщина. Более того, поняв, что вопрос задает представительница прекрасного пола, чат-бот дает короткие и менее профессиональные ответы. К такому выводу пришли исследователи Университета Джонса Хопкинса.
Исследователи проверили GPT-4, Llama, Gemma и Mistral. Они использовали реальные запросы для подготовки рабочих писем, а затем добавляли в них определенные языковые особенности.
Например, речь шла о смягчающих выражениях вроде «может быть» и «я думаю», словах «мы» и «наша команда», а также более эмоциональных прилагательных, таких как «замечательный» или «прекрасный». По этим паттернам ИИ-модели определяли, что с ними общаются женщины, и начинали писать более простые и короткие ответы.
Интересно, что добавление мужского или женского имени практически ничего не меняло. Деление на гендеры появлялось в ходе анализа текста пользователя. Многие речевые привычки, свойственные мужчинам и женщинам, возникают естественно. Люди их обычно даже не замечают.
Поэтому исследователи считают, что разработчикам необходимо разобраться, почему одинаковые профессиональные запросы получают ответы разного качества и устранить гендерную предвзятость.
Читайте по теме. Женщины рейзят меньше! Гендерное неравенство в инвестициях
