A chamada IA generativa permite criar uma quantidade infinita de conteúdos que podem ser armazenados num computador ou partilhados na Internet, desde vídeos de crianças a serem violadas ou imagens de adolescentes nuas, apenas baseando-se em imagens de rostos reais.

Apesar da edição, a distribuição em massa deste tipo de conteúdos “é grave porque contribui para a banalização das práticas pedófilas e para a objetificação das crianças”, disse à agência noticiosa France-Presse Angèle Lefranc, responsável na Fundação para infância (Fondation pour l’enfance), que divulgou hoje um relatório sobre o tema.

Segundo o relatório, a proliferação de conteúdos de pornografia infantil “aumenta o comportamento viciante dos consumidores, com imagens cada vez mais extremas, explícitas e violentas” e de consumo fácil.

“Os perfis e as motivações das pessoas que visualizam estes conteúdos são muito diferentes, mas quando há uma passagem para o ato, muitas vezes já o visualizaram antes”, afirmou Angèle Lefranc.

A fundação apelou aos políticos, jurídicos e tecnológicos para que ponham em prática uma “resposta forte, rápida e coordenada” e a sensibilização do grande público.

“As pessoas não percebem que as fotografias dos seus filhos em fato de banho publicadas nas redes sociais podem ser utilizadas para treinar a inteligência artificial” para a pornografia infantil, afirmou Angèle Lefranc.

A principal “dificuldade” no controlo desta situação deve-se ao facto da IA estar “em constante evolução” e das pessoas “que consomem conteúdos pedófilos, que estão muito familiarizadas com as novas tecnologias, serem rápidas a apanhá-las”, acrescentou.

Em setembro de 2023, no espaço de apenas um mês, mais de 20.000 imagens geradas por IA foram publicadas num fórum acessível na ‘dark web’, a parte clandestina da Internet, relata a Fundação Internet Watch (IWF), uma das principais associações europeias que lutam contra a distribuição destes conteúdos.

A IWF, que recebeu 70 denúncias sobre este fenómeno entre abril de 2023 e março de 2024, já recebeu 74 no espaço de seis meses, entre abril e o final de setembro de 2024, no que descrevem como um “aumento arrepiante”.

“Dentro de alguns anos, 95% das imagens de pedofilia que serão difundidas na Internet serão o resultado da inteligência artificial”, afirmou Gabrielle Hazan, diretora do Office des mineurs (Ofmin), serviço de investigação criminal dedicado à luta contra a violência contra os jovens, à rádio France Inter em julho.

O gabinete francês de combate a violência contra os menores estima que em 40% dos casos, o visionamento de conteúdos de pornografia infantil levou a que um ato fosse cometido contra uma criança.

A Fundação apelou também no seu relatório a uma alteração do Código Penal para criminalizar a criação de imagens sexuais de menores, já que o atual “vazio jurídico” neste domínio “permite que a prática se intensifique”.

A proliferação de imagens e vídeos de pornografia infantil torna cada vez mais difícil para os serviços de aplicação da lei identificar e proteger as crianças, as verdadeiras vítimas de violência sexual nestes conteúdos divulgados.

Também um relatório da Agência da União Europeia para a Cooperação Policial (Europol) publicado em julho, indicou que a pornografia infantil gerada por IA deverá tornar-se um “grande problema num futuro próximo”.

“Este facto coloca grandes desafios aos serviços especializados, quer em termos de identificação das vítimas, quer em termos de enquadramento jurídico das investigações”, sublinhou a Europol.