Новый ИИ-бот ToxMod для модерации голосового чата в Call of Duty добился значительных успехов – общая токсичность была снижена на 43%. С выходом Black Ops 6 система модерации будет расширена на другие языки.
В последнее время появилось много предположений о том, какую пользу могут принести видеоиграм такие технологии, как генеративный ИИ и машинное обучение. В то время как реконструкция изображений доказала свою полезность, а генеративный ИИ вошел в производственный процесс, анализ на основе ИИ начал влиять на модерацию голосовых чатов.
Activision Blizzard сообщает, что с начала этого года количество токсичных голосовых чатов в Call of Duty сократилось на 43%. В качестве причины таких результатов издатель называет недавнее внедрение системы модерации ToxMod на основе искусственного интеллекта.
Система была запущена в ноябре 2023 года. ToxMod анализирует текстовые транскрипты внутриигровых голосовых чатов и определяет ключевые слова на основе множества факторов.
Чтобы отличить обычные разговоры от домогательств, ToxMod отслеживает ключевые слова и реакцию на комментарии, распознавая эмоции игроков и понимая кодекс поведения в игре. Кроме того, система оценивает предполагаемый возраст и пол говорящего и адресата, чтобы лучше понять контекст каждого разговора.
ToxMod не имеет права самостоятельно заблокировать кого-либо, но она может быстро отмечать нарушения для рассмотрения модераторами-людьми. Затем Activision решает какие санкции применить к токсичным игрокам.
Все регионы, кроме Азии, в настоящее время поддерживают ToxMod, и в Call of Duty эта система используется для модерации голосового чата на английском, испанском и португальском языках. После выхода Black Ops 6 Activision добавит поддержку французского, немецкого и других языков.
