OpenAI apresentou um plano para proteger crianças contra ameaças de IA devido ao aumento de abusos.

Nova iniciativa da OpenAI prevê identificação mais rápida de violações, atualização da legislação e reforço no controle da geração de conteúdo perigoso

A OpenAI apresentou um novo plano para ampliar a proteção de crianças em meio ao aumento das ameaças associadas ao uso de IA. O documento, chamado Child Safety Blueprint, foi divulgado no início da semana e tem como objetivo acelerar a detecção, aprimorar os mecanismos de denúncia e tornar mais eficazes as investigações de casos de exploração infantil com uso de IA.

Segundo dados da organização não governamental de monitoramento da internet Internet Watch Foundation (IWF), no primeiro semestre de 2025 foram registrados mais de 8.000 casos de disseminação de conteúdo gerado por IA relacionado a abuso sexual infantil, um avanço de 14% em relação ao mesmo período do ano anterior. Criminosos vêm usando IA para produzir imagens e mensagens falsas com a finalidade de extorsão financeira e manipulação.

O plano foi desenvolvido em parceria com o National Center for Missing and Exploited Children (NCMEC), a Alliance of Attorneys General e com a participação dos procuradores-gerais da Carolina do Norte e de Utah. Entre os principais eixos da iniciativa estão a atualização das leis para contemplar materiais criados por IA, o aperfeiçoamento dos canais de comunicação com as autoridades e a incorporação de medidas preventivas aos sistemas de IA.

A OpenAI também reforçou suas medidas de segurança ao proibir a geração de conteúdo inadequado e de orientações que incentivem comportamentos autodestrutivos. Essas ações se somam a iniciativas anteriores da empresa, como a divulgação de recomendações voltadas a adolescentes.

O plano surge em um momento de crescente atenção por parte de legisladores e do público. Em novembro do ano passado, foram protocoladas na Califórnia ações judiciais contra a OpenAI, nas quais a empresa é acusada de ter lançado o GPT-4o antes da conclusão dos testes. As ações afirmam que o produto contribuiu para manipulações psicológicas, resultando em consequências trágicas.

A OpenAI espera que o novo plano ajude não apenas a identificar ameaças com mais rapidez, mas também a encaminhar informações aos investigadores de forma imediata, elevando a eficiência no combate à exploração infantil.