CGI.br alerta para uso de IA na criação de conteúdo de exploração sexual

O Comitê Gestor da Internet no Brasil (CGI.br) divulgou nota pública nesta quarta, 2, expressando preocupação com o uso de inteligência artificial generativa para criar imagens de exploração sexual de mulheres, crianças e adolescentes, em razão de recentes denúncias envolvendo deepfakes e conteúdos manipulados. No texto, o CGI.br repudia IA de conteúdos de exploração sexual.

Para embasar o documento, o CGI.br considerou os dados das últimas edições da pesquisa TIC Kids Online e TIC Domicílios, em que 93% das crianças e adolescentes entre 9 e 17 anos e 84% das mulheres brasileiras de 14 anos ou mais têm acesso à internet no Brasil. ”Estes grupos são impactados por inúmeros benefícios, mas também por riscos, especialmente os riscos vivenciados no uso de plataformas digitais, cada vez mais implementadas em suas atividades cotidianas”, pontua a nota.

Segundo o CGI.br, “a presença expressiva desses grupos – mulheres, crianças e adolescentes – em ambientes digitais requer cuidados específicos de proteção para que suas experiências sejam saudáveis e seguras”. O Comitê ainda chama a atenção para quanto à “responsabilidade do Estado, das empresas detentoras de produtos e serviços disponibilizados por meio da Internet e da sociedade na totalidade”.

Vale frisar que a legislação brasileira já contempla proteção especial para mulheres contra violências de gênero, incluindo a criminalização de condutas de exploração ou abuso sexual que podem ser cometidas em ambiente digital.

CGI.br repudia IA de conteúdos de exploração sexual

Discussões legislativas recentes também buscam tipificar o crime de manipulação digital de imagens por inteligência artificial e agravar a pena em casos de crimes contra mulheres. Essas preocupações incluem aspectos como a difusão desses conteúdos por plataformas digitais e o próprio oferecimento não supervisionado por lojas de aplicativos de ferramentas capazes de manipular e gerar imagens e conteúdos de exploração e abuso sexual.

O Comitê reforça que o Brasil já possui leis como o Marco Civil da Internet, a LGPD e o ECA, que garantem direitos e proteções aos usuários.

Destaca também a importância de autoridades acompanharem os avanços tecnológicos e cobra que empresas de IA, lojas de aplicativos e plataformas digitais adotem políticas de moderação mais rigorosas, prevenindo a produção e a disseminação desses conteúdos.

E recomenda às empresas que oferecem serviços de geração de imagens por IA, lojas de aplicativos e as plataformas que atuem de modo proativo no:

• desenvolvimento e fortalecimento de políticas de moderação de conteúdo mais robustas e comprometidas com o banimento de serviços, práticas e usuários que violem a segurança e os direitos de mulheres, crianças e adolescentes em ambientes digitais;
• desenvolvimento e oferecimento adequado de aplicações de IA generativa, considerando a necessidade de cuidado especial com o uso de dados pessoais, bancos de imagens e modelos algorítmicos que podem resultar e difundir conteúdos de exploração sexual e outras violências e discriminações contra grupos vulnerabilizados;

Confira aqui o documento na íntegra.

O post CGI.br alerta para uso de IA na criação de conteúdo de exploração sexual apareceu primeiro em TeleSíntese.