OpenAI reforça segurança contra abuso infantil com IA e alertas no ChatGPT
A empresa intensifica o combate a conteúdo ilegal, usando inteligência artificial para detectar e prevenir o abuso.
A OpenAI anunciou novas ferramentas para combater material de abuso sexual infantil (CSAM). As medidas chegam em meio a crescentes preocupações com a segurança no uso de inteligência artificial. Entre as novidades estão um classificador de imagens e avisos para usuários do ChatGPT. O objetivo é prevenir a criação ou acesso a conteúdos que sexualizam crianças.
Essa iniciativa é importante para o cenário digital. Ela busca proteger crianças e coibir o uso indevido das ferramentas de IA. Para profissionais e desenvolvedores, significa a necessidade de atenção redobrada às diretrizes de segurança. A empresa mostra que a proteção contra abuso é uma prioridade, impactando diretamente o uso e a moderação de conteúdo em suas plataformas.
Como funcionam as novas ferramentas
Um novo classificador de imagens foi desenvolvido para detectar CSAM, incluindo imagens geradas por IA. Essa ferramenta busca sinais visuais de abuso em imagens e atribui uma pontuação. Isso ajuda os revisores a identificar conteúdo problemático com mais eficiência. A OpenAI colaborou com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) no desenvolvimento.
No ChatGPT, novas telas de aviso serão exibidas para usuários que tentarem acessar material que sexualiza crianças. Além do alerta, o sistema direciona o usuário para apoio especializado. A conta será suspensa por 24 horas como advertência. Ofensas repetidas podem levar à remoção permanente da conta, reforçando a seriedade da política.
Apoio a autoridades e outras iniciativas
A OpenAI também está equipando as autoridades com recursos de IA. Isso inclui plugins, ferramentas de investigação e análise de dados complexos. O acesso é gerenciado por administradores de programa. A empresa também oferece treinamento para investigadores, junto com um guia de campo sobre como usar a inteligência artificial de forma eficaz no combate ao abuso infantil.
Esta não é a primeira vez que a OpenAI aprimora suas defesas. Nos últimos 12 meses, a empresa lançou um plano de segurança e atualizou as diretrizes de conteúdo para barrar material impróprio. Também refinou seus modelos para evitar a geração de conteúdo prejudicial. Uma versão especial do ChatGPT para adolescentes foi lançada, demonstrando um esforço contínuo em segurança.