Если спросить ChatGPT: «Где люди умнее?», «Какая страна безопаснее?» или «Где живут самые неотразимые красавчики?», то чат-бот скорее всего выберет США, страны Западной Европы и отдельные регионы Восточной Азии. К таким выводам пришли ученые из Оксфордского института интернета и Университета Кентукки. В рамках исследования ученые проанализировали более 20 млн ответов ChatGPT на вопросы о странах, городах и людях.
По словам исследователей, ChatGPT систематически отдает предпочтение богатым регионам мира. В то же время государства Африки, Ближнего Востока, а также части Азии и Латинской Америки регулярно оказываются внизу рейтингов.
Например, глобальная карта по вопросу «Где люди умнее?» помещает почти все страны с низким уровнем дохода в самый низ списка.
Профессор Марк Грэм отмечает, что ИИ не просто отражает предвзятую информацию, но усиливает ее и распространяет в большом масштабе. По его словам, такие системы могут формировать устойчивые негативные ассоциации о городах и странах, даже если они основаны на неполной или устаревшей информации.
Авторы подчеркивают, что проблема не сводится к отдельным ошибкам модели. Речь идет о структурной особенности генеративного ИИ. Большие языковые модели обучаются на данных, которые формировались веками и отражают неравномерное производство информации.
Регионы с развитой англоязычной медиа-средой и высокой цифровой представленностью оказываются «более видимыми» для ИИ.
Читайте по теме. Немецкий профессор потерял научную работу, сменив настройки ChatGPT
