Recentemente, um estudo realizado pela organização Human Rights Watch lançou luz sobre uma prática preocupante: o uso não autorizado de fotografias de crianças e adolescentes brasileiros em plataformas de inteligência artificial (IA). As imagens, capturadas a partir de sites e redes sociais, foram encontradas em um vasto banco de dados destinado ao treinamento de IA, sem o consentimento dos envolvidos ou seus responsáveis.
Este levantamento apontou a localização de cerca de 170 imagens de jovens de ao menos 10 estados brasileiros em situações cotidianas como nascimentos, celebrações de aniversário e eventos escolares. Embora este número possa parecer pequeno diante do total de mais de 5 bilhões de imagens do banco LAION-5B, ele aciona um sinal de alerta sobre privacidade e segurança digital.
Foto de Inteligência Artificial
Como São Utilizadas as Imagens das Crianças?
A descoberta da Human Rights Watch sublinha uma grave questão: o potencial uso dessas imagens na criação de deepfakes. Estes são conteúdos gerados por IA que podem alterar vídeos ou fotos de maneira realista, trocando rostos ou modificando falas, o que pode ser particularmente danoso quando envolve menores de idade.
O que dizem os especialistas?
Hye Jung Han, pesquisadora de Direitos da Criança e Tecnologia na Human Rights Watch, explicou que a capacidade das IAs de criar imagens realistas em segundos pode levar ao desenvolvimento de deepfakes que exploram e manipulam as características pessoais dos indivíduos sem consentimento. Essa prática é especialmente preocupante quando se trata do público infanto-juvenil, que requer proteção especial.
Qual é a Posição das Autoridades?
A Human Rights Watch também apontou falhas das grandes corporações e plataformas sociais em proteger adequadamente a privacidade dos usuários, especialmente crianças e adolescentes. Após o aviso, a instituição alemã responsável pelo banco de imagens LAION-5B comprometeu-se a remover as fotos íntimas, embora declare que os modelos de IA treinados podem não reproduzir exatamente esses dados pessoais.
Em contrapartida, Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, enfatiza a necessidade de aplicar rigorosamente a legislação em ambientes digitais para proteger os dados dos usuários. Ela destaca que é fundamental incluir novos direitos diante dos desafios emergentes relacionados ao uso de tecnologias digitais e IA, com especial atenção às crianças e adolescentes.
Este caso traz à tona questões críticas sobre ética e responsabilidade no uso de tecnologias de IA. Enquanto a tecnologia continua a avançar, é urgente que a legislação e as práticas de governança evoluam de modo a garantir segurança e proteção a todos os usuários, principalmente aos mais vulneráveis.
