Jogos de tiro em primeira pessoa como Call of Duty são famosos pela toxicidade de seus lobbies e chats de voz. As pesquisas consideram a base de fãs da franquia a mais negativa na indústria de jogos; uma rivalidade entre dois jogadores certa vez levou à convocação de uma equipe de forças especiais. A Activision vem tentando combater esse comportamento há anos, e parte da solução pode ter a ver com inteligência artificial.
A Activision fez parceria com a Modulate para trazer “moderação de bate-papo por voz no jogo” para seus jogos. Um novo sistema de moderação usando tecnologia de inteligência artificial chamado ToxMod funcionará para detectar comportamentos como discriminação e assédio em tempo real.
Os testes beta iniciais do ToxMod na América do Norte começam hoje. Está ativo em Call of Duty: Modern Warfare II e Call of Duty: Warzone. O “lançamento mundial completo” (não inclui a Ásia, conforme afirma o comunicado de imprensa) acontecerá no dia 10 de novembro com o lançamento de Call of Duty: Modern Warfare III, a nova parcela da franquia deste ano.
O comunicado de imprensa do Modulate não entra em muitos detalhes sobre como exatamente o ToxMod funciona. Sobre local a empresa observa que a ferramenta “modera o bate-papo por voz para sinalizar mau comportamento, analisa as nuances de cada conversa para identificar toxicidade e permite que os moderadores respondam rapidamente a cada incidente, fornecendo um contexto relevante e preciso”. Em entrevista recente, o CEO da empresa disse que a ferramenta pretende ir além da simples transcrição. Também leva em consideração fatores como a emoção e o volume do jogador para distinguir entre comentários maliciosos e humorísticos.
Vale ressaltar que a ferramenta (pelo menos por enquanto) não tomará medidas contra jogadores com base em seus dados, mas apenas enviará relatórios aos moderadores da Activision. É provável que o envolvimento humano continue a ser uma salvaguarda importante, uma vez que a investigação demonstrou que os sistemas de reconhecimento de voz podem apresentar preconceitos na forma como respondem a utilizadores com diferentes identidades raciais e sotaques.
Leia também: