Meta usa IA para combater anúncios que levam a conteúdo ilegal infantil

A Meta lançou novas ferramentas de inteligência artificial para identificar anúncios e contas que direcionam secretamente para material de abuso sexual infantil. A empresa agiu contra 33,2 milhões de conteúdos de exploração infantil no Facebook e Instagram no primeiro semestre de 2026. Mais de 97% desses conteúdos foram encontrados pelos sistemas da Meta antes mesmo de serem denunciados por usuários, mostrando a escala do desafio e a necessidade de automação.

A principal novidade é um sistema de Large Language Model (LLM) para detectar o que a Meta chama de “sinalização”. Isso significa anúncios que parecem inofensivos, mas que na verdade levam a conteúdo ilegal ou atividades prejudiciais fora das plataformas da empresa. Essa é uma tática nova que criminosos estão usando para tentar driblar as detecções, forçando a Meta a olhar não só o que o anúncio contém, mas para onde ele leva.

Como as novas IAs funcionam na prática

• Detecção de sinalização: Um LLM identifica anúncios que, embora pareçam normais, direcionam usuários para sites externos com conteúdo ilegal, como material de abuso sexual infantil.
• Varreduras adicionais: Novas varreduras com IA buscam por conteúdo de exploração infantil que sistemas anteriores podem ter deixado passar, aprendendo com os padrões de redes criminosas.
• Agente de 'Red-teaming': Uma IA testa as próprias medidas de segurança da Meta, procurando por falhas que criminosos poderiam explorar. Isso ajuda a antecipar novas formas de abuso.
• Identificação de reincidentes: Sistemas melhorados para encontrar pessoas que criam novas contas após terem sido banidas por violações relacionadas a abuso infantil.

Essas medidas surgem em um momento de intensa pressão sobre a Meta, que enfrenta processos e críticas de legisladores sobre a segurança de crianças em suas plataformas. A empresa já teve que pagar bilhões em acordos para resolver questões de segurança infantil. A tecnologia é crucial para tentar conter um problema que evolui rapidamente.

A Meta já introduziu outras funcionalidades de segurança infantil este ano, como controles parentais para a Meta AI, contas para pré-adolescentes no WhatsApp e alertas para pais sobre buscas de automutilação no Instagram. O foco da empresa em segurança infantil está cada vez maior, refletindo a pressão pública e regulatória.