O Dia da Internet Segura, anualmente celebrado em 10 de fevereiro, revelou um cenário digital alarmante no Brasil. Dados recentes da SaferNet indicam uma escalada sem precedentes nos crimes online, impulsionada significativamente pelo uso malicioso da inteligência artificial. Entre as ameaças emergentes, destacam-se a proliferação de deepfakes de nudez e o agravamento de diversas formas de violência e discriminação digital, exigindo uma resposta coordenada da sociedade, da legislação e dos cuidadores.
A Escalada dos Crimes de Ódio e a Ameaça dos Deepfakes Pornográficos
O relatório da SaferNet aponta para um aumento vertiginoso de 224,9% nas denúncias de misoginia, violência e discriminação contra mulheres em apenas um ano. Pela primeira vez, a organização registrou casos de vítimas de imagens íntimas criadas por inteligência artificial, marcando uma nova e perigosa fronteira para os agressores. Os pedidos de ajuda ao Helpline da SaferNet relacionados a vazamento de imagens de nudez e sexo sem autorização saltaram 115% entre 2024 e 2025, com a IA generativa sendo a principal catalisadora desse crescimento, conforme destacou Thiago Tavares, presidente da SaferNet. Ele ressaltou que essas imagens, embora falsas, são extremamente realistas e produzidas sem consentimento, refletindo uma tendência global de uso criminoso da IA.
Além da misoginia, o levantamento também revelou um crescimento alarmante em outras categorias de crimes de ódio. As denúncias de apologia a crimes contra a vida subiram 75,4%, enquanto o neonazismo registrou um avanço de 64,7% no último ano. O racismo apresentou um aumento de 58,5%, e a LGBTfobia cresceu 24,3%, demonstrando uma deterioração generalizada do ambiente digital em relação à propagação de discursos e práticas de ódio.
O Preocupante Retorno do Abuso e Exploração Sexual Infantil Online
Um dos dados mais angustiantes do panorama atual é o retorno do crescimento nos crimes envolvendo imagens de abuso e exploração sexual infantil na internet, após dois anos de queda. As denúncias aumentaram 19,3%, passando de 52.999 em 2024 para 63.214 em 2025. Esse é o segundo maior número já registrado na história da SaferNet, ficando atrás apenas do recorde de 2022. A organização enfatiza que a inteligência artificial, ao facilitar a criação e modificação desses materiais, contribui para esse aumento. No total, a SaferNet recebeu 87.689 denúncias únicas de diferentes crimes em 2025, um aumento de 28,4% em relação ao ano anterior, sublinhando a urgência de medidas protetivas.
ECA Digital: Um Marco Legal na Proteção de Crianças e Adolescentes na Internet
Diante do cenário de riscos crescentes, o Brasil se prepara para uma importante atualização legislativa: o novo Estatuto Digital da Criança e do Adolescente (ECA Digital) entrará em vigor em março. Esta lei, considerada uma modernização essencial do Estatuto original de 1990, estabelece regras mais rigorosas para plataformas digitais, redes sociais, aplicativos e jogos, visando criar um ambiente online mais seguro para os jovens.
O ECA Digital se estrutura em cinco pilares fundamentais. Primeiramente, torna a verificação de idade obrigatória e mais rigorosa, exigindo das plataformas mecanismos eficazes que vão além de simples cliques de confirmação. Em segundo lugar, impõe às big techs a responsabilidade de monitorar e remover proativamente conteúdos nocivos, sem depender exclusivamente de denúncias. A terceira medida proíbe a publicidade direcionada a crianças e adolescentes. O quarto pilar determina que contas de menores de 16 anos em redes sociais devem ser vinculadas à conta de um adulto responsável, garantindo maior supervisão. Por fim, as plataformas terão que demonstrar a implementação de sistemas robustos de proteção.
O descumprimento dessas novas regras acarretará em sanções severas. A Agência Nacional de Proteção de Dados (ANPD) será responsável pela fiscalização e poderá aplicar advertências e multas que chegam a R$ 50 milhões. Em casos de reincidência ou infrações graves, a lei prevê a suspensão e até mesmo a proibição de funcionamento das plataformas pelo Poder Judiciário, evidenciando o compromisso do Brasil em responsabilizar os provedores de serviços digitais pela segurança dos usuários mais jovens.
Orientações para Proteger a Geração Alfa no Universo da Inteligência Artificial
No contexto da Internet Segura, a Kaspersky divulgou orientações cruciais para pais e responsáveis sobre o uso da IA por crianças da Geração Alfa (nascidas entre 2010 e 2025). Especialistas alertam que, embora essas crianças utilizem ferramentas como ChatGPT e assistentes de voz com grande desenvoltura, elas frequentemente carecem da maturidade necessária para identificar riscos e discernir informações. O papel dos adultos é fundamental para guiá-los neste cenário complexo.
As recomendações práticas incluem desenvolver a conscientização sobre a inteligência artificial, explicando que assistentes digitais não são 'amigos' e podem fornecer informações incorretas ou tendenciosas. A Kaspersky sugere ativar filtros de segurança nas plataformas, verificar minuciosamente a autenticidade de aplicativos antes da instalação e limitar as permissões concedidas a esses apps. Fabiano Tricarico, diretor geral de produtos de consumo da Kaspersky para as Américas, enfatiza que, ao participar ativamente da jornada digital da criança, o adulto se transforma em um orientador confiável. Ele ainda aconselha a fazer perguntas simples e frequentes, como 'O que você perguntou para a IA hoje? Ela deu a resposta certa?', incentivando o diálogo aberto e a capacidade crítica dos jovens usuários.
O panorama da segurança digital em 2025 aponta para desafios crescentes, com a inteligência artificial emergindo como uma ferramenta de dupla face. Se, por um lado, oferece inovações, por outro, tem sido cooptada para fins criminosos, intensificando a misoginia, o ódio e a exploração infantil. A entrada em vigor do ECA Digital e as diretrizes de conscientização são passos cruciais para mitigar esses riscos. A proteção do ambiente online, especialmente para crianças e adolescentes, exige um esforço contínuo e integrado entre legisladores, plataformas digitais, educadores e famílias, para construir um futuro digital mais seguro e ético.
Fonte: https://www.tecmundo.com.br
