BRASIL – Fotos de crianças brasileiras utilizadas em ferramentas de inteligência artificial sem consentimento levantam preocupações de privacidade online.

Recentemente, um levantamento realizado pela organização internacional Human Rights Watch trouxe à tona uma questão preocupante: o uso de fotos pessoais de crianças e adolescentes brasileiros por ferramentas de inteligência artificial (IA) sem o devido consentimento. A entidade identificou que algumas imagens foram retiradas de sites e mídias sociais, sem autorização prévia, e utilizadas no treinamento de um banco de dados chamado LAION-5B.

Segundo a Human Rights Watch, foram encontradas 170 fotos de crianças de pelo menos 10 estados brasileiros, retratando momentos como nascimentos de bebês, festas de aniversário e apresentações em escolas. Embora esse número represente uma pequena porcentagem em relação ao total de imagens armazenadas no banco, que ultrapassa 5 bilhões, o caso acende um alerta sobre a privacidade e segurança na era digital.

A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destacou a facilidade com que a inteligência artificial possibilita a criação de deepfakes, imagens e cenas alteradas de forma realista e prejudicial. Nesse contexto, as fotos das crianças brasileiras foram identificadas como base para o desenvolvimento dessas deepfakes, que podem circular na internet de maneira nociva.

A entidade ressaltou que as imagens das crianças não estão disponíveis publicamente online e foram postadas há anos, evidenciando uma possível falha na proteção da privacidade dos usuários por parte de grandes empresas e mídias sociais. O acesso não autorizado a essas fotos revela a importância de implementar medidas eficazes para garantir a segurança digital dos usuários, especialmente dos mais vulneráveis.

Diante dessa situação, a coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, enfatizou a necessidade de aplicar a legislação no ambiente virtual para proteger os usuários. Segundo ela, é fundamental garantir a proteção das crianças e adolescentes diante dos desafios que surgem com o avanço da inteligência artificial e das tecnologias digitais.

A instituição alemã responsável pelo LAION-5B reconheceu a presença das fotos pessoais das crianças e se comprometeu a removê-las do banco de dados. No entanto, a discussão sobre a responsabilidade das empresas e usuários na proteção da privacidade online continua em pauta, destacando a importância de medidas efetivas para garantir a segurança digital de todos os usuários, especialmente os mais jovens.