Por Willian Nagib Filho*
A bela Paolla Oliveira reclama de fotos na internet que nunca tirou, de vídeos falando coisas que nunca disse, um corpo circulando por aí com o rosto em cima que não é o dela, demonstrando preocupação com o que vem acontecendo notadamente com as adolescentes: “Que mulher cresce inteira em um mundo onde qualquer pessoa pode despi-la, deixá-la vulnerável, em segundos?” Se a credibilidade de uma mulher ainda é medida pela imagem dela, como construir uma imagem de credibilidade num mundo onde o tempo inteiro estão criando imagens falsas sem o menor pudor?”
A IA tem sido usada de forma criminosa para criar deepfakes sexuais que atingem principalmente meninas, com situações de imagens manipuladas circulando em sites adultos após chantagens. Dezenas de casos de deepfakes sexuais envolvem o ambiente escolar, mas muitas vezes os adolescentes têm vergonha de contar para os pais, o que mascara os números.
Ainda assim, estudo recente do Unicef aponta que em um ano 19% dos adolescentes brasileiros de 12 a 17 anos foram vítimas de exploração e abusos facilitados pela tecnologia.
Da preocupação de Paolla às ações necessárias, em boa hora o ECA Digital entrou em vigor, transportando para o ambiente digital as garantias de proteção integral da criança e adolescente.
O legislador criou obrigações concretas, sanções proporcionais e um regime de fiscalização centralizada que representa a mais relevante atualização normativa voltada à infância e à adolescência e expande o alcance do Estatuto da Criança e do Adolescente para o ambiente digital, criando um regime específico de responsabilidades para fornecedores de produtos e serviços de tecnologia da informação direcionados a crianças e adolescentes ou de acesso provável por eles, no universo de produtos e serviços de aplicativos de internet, jogos eletrônicos conectados, lojas de aplicativos, redes sociais, plataformas de streaming e softwares e programas de computador.
São quatro eixos fundamentais: prevenção, proteção, informação e segurança. Destaca-se que as plataformas devem assegurar a verificação de idade de forma confiável, adotando métodos de biometria facial, validação financeira, consentimento verificável, integração com bases de dados governamentais, entre outros.
As plataformas serão sancionadas com advertência, multas, suspensão das atividades e proibição de operar no Brasil.
Nesse ambiente, a OAB/SP mobilizou grande número de advogados para uma batalha em combate à violência digital nas plataformas contra adolescentes: painéis abordam a implementação do ECA Digital, a responsabilidade das plataformas na proteção de crianças e adolescentes, mecanismos de prevenção de violações e os impactos das novas tecnologias e alertam para a necessidade de uma atuação integrada entre advocacia, famílias, escolas, empresas, plataformas, poder público e sociedade, para que a proteção prevista na legislação seja efetivamente colocada em prática.
Entre os assuntos para debate nas escolas estão deepfakes sexuais, fake nudes, exposição e compartilhamento de imagens íntimas, assédio, ameaças, chantagem e aliciamento, além de direitos, deveres e caminhos para buscar proteção, no contexto preparatório de uma sociedade mais consciente.
A questão carece de atenção urgente: se a tecnologia trouxe novas possibilidades, também deu velocidade e alcance a antigas formas de violência. O ECA Digital dá os contornos providenciais necessários. Instituições como a OAB/SP cuidam de debater os fatos, alertar para as consequências e apresentar antídotos plausíveis.
*O autor é advogado
