A crescente produção de imagens e vídeos de agressões sexuais a crianças gerados por inteligência artificial (IA) tem preocupado especialistas, com um aumento alarmante na internet. A situação foi destacada por uma entidade dedicada à detecção e remoção desses conteúdos nocivos.
Essas imagens e vídeos, que retratam menores em situações de abuso, são tão realistas que se tornam difíceis de distinguir de imagens autênticas, segundo um estudo recente. A organização responsável já recebeu 70 denúncias durante um período que abrange de abril de 2023 a março de 2024, com 74 denúncias adicionais registradas apenas nos primeiros seis meses deste ano.
As principais fontes dessas imagens foram identificadas em websites de fácil acesso, com uma concentração significativa proveniente da Rússia (36%), seguida pelos Estados Unidos (22%) e Japão (11%).
Mais de 75% das denúncias foram encaminhadas diretamente pela comunidade online, com internautas relatando o conteúdo encontrado em fóruns e galerias de fotos ou vídeos gerados por IA.
Um especialista anônimo da organização alertou que o aumento nas denúncias pode indicar um momento crítico, onde organizações não governamentais e políticos enfrentam dificuldades para identificar se uma criança necessita de ajuda. Para enfrentar essa situação, o diretor-geral interino fez um chamado aos parlamentares britânicos para que atualizem as legislações existentes, adaptando-as à realidade digital e às sofisticadas ferramentas atualmente disponíveis.
