Um dos problemas do YouTube (e de qualquer outro site na Internet que permita a publicação de comentários), é a moderação de comentários considerados abusvisos publicados pelos utilizadores.
Até agora, quando o YouTube detectava que um comentário a um vídeo podesse ser considerado abusivo, avisava o utilizador que estava prestes publicá-lo, mas nada mais. Agora, o serviço vai dar o passo seguinte e vai alertar os utilizadores quando um comentário for contra os termos do serviço e for removido. Se o utilizador reincidir, o YouTube vai inibir esse utilizador de publicar comentários durante 24 horas.
Segundo uma publicação de um dos gestores de comunidade do YouTube no blog do serviço, durante os testes, este novo sistema conseguiu reduzir consideravelmente a reincidência da publicação deste tipo de comentários.
Para já, esta funcionalidade está apenas disponível para os utilizadores inglês, mas o YouTube espera expandi-la para mais linguas em breve.
Como se sabe, os sistemas de detecção destes comportamentos não é perfeito. Por isso, se alguém receber um aviso e achar que o serviço se enganou, pode deixar feedback para ajudar a melhorar o sistema. No entanto, não há nenhuma indicação de que os comentários que tenham sido removidos erradamente voltem a ser publicados.
Outro problema que assola o YouTube (e praticamente toda a Internet), são as mensagens de spam. O YouTube diz que está a melhorar o sistema de detecção automática e os modelos de machine learning, para identificar e remover publicações que possam ser consideradas spam, com mais fiabilidade e rapidez. Apesar disto, só na primeira metade de 2022, o sistema conseguiu remover mais de 1,1 mil milhões de comentários de spam do YouTube.
Outro problema que vai merecer a atenção do YouTube é a intromissão de spambots em momentos de live chats e a empresa está também a melhorar a detecção deste tipo de robôs.