американская компания Activision поделилась результатами введения нейросети ToxMod для модерации голосовых чатов в Call of Duty: Modern Warfare III. ИИ анализирует разговоры игроков и передаёт информацию о нарушениях на рассмотрение живым модераторам, которые решают, отправлять пользователя в бан или нет. помимо проверки самих фраз нейросеть учитывает контекст и интонации: так она отличает дружеские подколы и настоящую агрессию.

в результате введения нейросетевой модерации токсичность в голосовых чатах Call of Duty с января 2024 года удалось снизить на 43%. при этом большинство игроков, получивших предупреждение от ИИ, более не проявляло агрессивного поведения в разговоре с тиммейтами.