O YouTube acaba de publicar as regras de moderação para os conteúdos gerados por inteligência artificial (incluindo vídeos em que a aparência de pessoas é clonada, ou os ‘deepfakes’), que vão entrar em vigor a partir do início de 2024.
Como se pode ver pelo artigo publicado hoje no blogue da empresa, estas novas regras são distintas para os vídeos relacionados com a indústria musical e para todos os outros. As regras básicas são bastante simples: o YouTube vai obrigar os criadores de conteúdos a identificarem os vídeos que contenham conteúdos “realistas” criados através de IA, principalmente em tempo de eleições ou durante conflitos.
A identificação vai aparecer nas descrições dos vídeos e também no topo, quando se trata de conteúdos mais sensíveis. Apesar de ter indicado as regras, o YouTube não define o que entende por “realista”, espera-se mais informação quando as regras entrarem em vigor, no início do próximo ano.
As penalidades para quem não identificar este tipo de conteúdos variam bastante, mas, como é habitual, incluem a remoção dos vídeos e a impossibilidade de os monetizar. Também neste caso não se sabe muito bem como é que o YouTube vai conseguir distinguir entre um vídeo real e um vídeo gerado com recurso a inteligência artificial. O YouTube diz que está a investir no desenvolvimento de ferramentas para detectar, com precisão, se os criadores de conteúdos cumprem a regra de identificar os vídeos sintéticos ou alterados.
Uma novidade é a possibilidade de reclamação através do formulário de pedidos de privacidade, se a aparência ou voz de uma pessoa forem clonadas e usadas num vídeo. No entanto, depois de receber uma reclamação, a empresa vai fazer uma avaliação de vários factores antes de remover o vídeo. Estes factores incluem se se trata de um vídeo satírico e se a aparência e voz clonadas são de pessoas conhecidas pelo público em geral.
No caso dos artistas, as regras são mais complexas: não há nenhuma excepção para os vídeos satíricos gerados por IA, o que quer dizer que qualquer vídeo em que a voz e aparência de um cantor forem clonadas por inteligência artificial pode ser removido ou desmonetizado sem qualquer hipótese de reclamação. De fora ficam apenas os vídeos noticiosos que abordem a utilização de ferramentas de IA para gerar vozes sintéticas. Esta regra não vai ser imposta através do sistema automático de detecção de conteúdos protegidos por direitos de autor Content ID. Em vez disso, o processo pode ser desencadeado através do preenchimento de um formulário e o YouTube diz que, apesar de poder remover estes vídeos, os criadores não serão penalizados. Pelo menos nos primeiros tempos.