Meninas adolescentes estão sendo vítimas de nudes criados por IA e família pressiona por mais proteções nos EUA

Só neste ano, mais de 143 mil vídeos deepfake foram compartilhados na internet, segundo a pesquisadora independente Genevieve Oh. Em outubro, o presidente dos EUA, Joe Biden, assinou um decreto para barrar o uso de inteligência artificial generativa para produzir material de abuso sexual. Meninas adolescentes estão sendo vítimas de nudes deepfake e uma família pressiona por mais proteções nos EUA
AP Photo/Peter K. Afriyie
Uma mãe e sua filha de 14 anos estão defendendo proteções rígidas para as vítimas de inteligência artificial (IA) depois que imagens nuas da adolescente e de outras colegas de classe geradas pela tecnologia foram divulgadas em uma escola de ensino médio em Nova Jersey (EUA).
Enquanto isso, do outro lado do país, as autoridades investigam um adolescente que supostamente usou IA para criar e compartilhar imagens semelhantes de outros estudantes – também adolescentes – que frequentam uma escola de ensino médio no subúrbio de Seattle, Washington (EUA).
Os casos colocaram um holofote mais uma vez em material explícito gerado por IA que prejudica esmagadoramente mulheres e crianças. De acordo com uma análise da pesquisadora independente Genevieve Oh compartilhada com a Associated Press, mais de 143 mil novos vídeos deepfake foram postados on-line este ano.
Desesperadas por soluções, as famílias afetadas estão pressionando os legisladores a implementar proteções robustas para as vítimas cujas imagens são manipuladas usando novos modelos de IA ou a infinidade de aplicativos e sites que anunciam abertamente seus serviços.
Defensores e alguns especialistas jurídicos também estão pedindo uma regulamentação federal que possa fornecer proteções uniformes em todo o país e enviar uma mensagem forte aos atuais e possíveis perpetradores.
“Estamos lutando por nossos filhos”, disse Dorota Mani, cuja filha foi uma das vítimas em Westfield, um subúrbio de Nova Jersey nos arredores de Nova York. “Eles não são republicanos e não são democratas. Eles não se importam. Eles só querem ser amados e querem estar seguros.”
Problema é antigo
O problema dos deepfakes não é novo, mas especialistas dizem que está piorando à medida que a tecnologia para produzi-los se torna mais disponível e fácil de usar.
Em junho, o FBI alertou que continuava a receber relatos de vítimas, tanto menores quanto adultos, cujas fotos ou vídeos foram usados para criar conteúdo explícito que foi compartilhado on-line.
Vários estados aprovaram suas próprias leis ao longo dos anos para tentar combater o problema, mas elas variam em escopo. Texas, Minnesota e Nova York aprovaram legislação este ano criminalizando a pornografia deepfake não consensual, juntando-se a Virgínia, Geórgia e Havaí, que já tinham leis sobre o assunto.
Alguns estados, como Califórnia e Illinois, só deram às vítimas a capacidade de processar os criminosos por danos em tribunais civis, o que Nova York e Minnesota também permitem.
Alguns outros estados estão considerando sua própria legislação, incluindo Nova Jersey, onde um projeto de lei está atualmente em andamento para proibir a pornografia deepfake e impor penalidades – seja prisão, multa ou ambas – a quem a espalhar.
A senadora estadual Kristin Corrado, republicana que apresentou a legislação no início deste ano, disse que decidiu se envolver depois de ler um artigo sobre pessoas tentando fugir das leis de pornografia de vingança usando a imagem de seu ex-parceiro para gerar pornografia deepfake.
O projeto de lei está definhando há alguns meses, mas há uma boa chance de ser aprovado, disse ela, especialmente com os holofotes que foram colocados sobre o assunto por causa de Westfield.
O evento de Westfield ocorreu neste ano e foi levado ao conhecimento da escola em 20 de outubro, disse a porta-voz da Westfield High School, Mary Ann McGann, em um comunicado.
McGann não forneceu detalhes sobre como as imagens geradas pela IA foram espalhadas, mas Mani, mãe de uma das meninas, disse que recebeu uma ligação da escola informando que suas fotos nuas foram criadas usando os rostos de algumas alunas e depois circularam entre um grupo de amigos no aplicativo de mídia social Snapchat.
A escola não confirmou nenhuma ação disciplinar, citando sigilo sobre assuntos envolvendo alunos. A polícia de Westfield e a Promotoria do Condado de Union, que foram notificadas, não responderam aos pedidos de comentários.
Ainda não há detalhes sobre o incidente no estado de Washington, que aconteceu em outubro e está sendo investigado pela polícia.
Paula Schwan, chefe do Departamento de Polícia de Issaquah, disse que eles obtiveram vários mandados de busca e observou que as informações que têm podem estar “sujeitas a alterações” à medida que a investigação continua.
Procurado, o Distrito Escolar de Issaquah disse que não poderia discutir os detalhes por causa da investigação, mas disse que qualquer forma de bullying, assédio ou maus-tratos entre os alunos é “totalmente inaceitável”.
Se as autoridades se movimentarem para processar o incidente em Nova Jersey, a atual lei estadual que proíbe a exploração sexual de menores já pode ser aplicada, disse Mary Anne Franks, professora de direito da Universidade George Washington que lidera a Cyber Civil Rights Initiative, uma organização que visa combater abusos online. Mas essas proteções não se estendem a adultos que podem se encontrar em um cenário semelhante, disse ela.
A melhor solução, disse Franks, viria de uma lei federal que possa fornecer proteções consistentes em todo o país e penalizar organizações duvidosas que lucram com produtos e aplicativos que facilmente permitem que qualquer pessoa faça deepfakes. Ela disse que isso também pode enviar um forte sinal para menores que podem criar imagens de outras crianças impulsivamente.
Mani, mãe de uma das vítimas, disse que sua filha criou um site e uma instituição de caridade com o objetivo de ajudar as vítimas de IA. Elas também têm conversado com legisladores estaduais que pressionam o projeto de lei de Nova Jersey e planejam uma viagem a Washington para defender mais proteções.
“Nem toda criança, menino ou menina, terá o sistema de apoio para lidar com essa questão”, disse Mani. “E eles podem não ver a luz no fim do túnel.”
Em outubro, o presidente dos EUA, Joe Biden, assinou uma ordem executiva (algo como um decreto) em que, entre outras coisas, pedia barrar o uso de IA generativa para produzir material de abuso sexual infantil ou “imagens íntimas de indivíduos reais” não consensuais.
A ordem também orienta o governo federal a emitir orientações para rotular e marcar conteúdo gerado por IA para ajudar a diferenciar entre material autêntico e feito por software.
LEIA TAMBÉM:
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada, como na novela ‘Travessia’, já existe na vida real
O que é deepfake e como ele é usado para distorcer realidade
Drauzio Varella vendendo colágeno? Como deep fakes estão sendo usados para golpes
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada já existe na vida real
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada já existe na vida real
‘Treta do ChatGPT’: entenda a troca relâmpago que Sam Altman fez da OpenAI pela Microsoft
‘Treta do ChatGPT’: entenda a troca relâmpago que Sam Altman fez da OpenAI pela Microsoft
Bard, o ‘ChatGPT do Google’, é lançado no Brasil
Bard, o ‘ChatGPT do Google’, é lançado no Brasil