A OpenAI anunciou na sexta-feira (30) um pacote de mudanças no ChatGPT para reduzir o risco de a ferramenta ser usada para planejar atos de violência. As regras valem para todo mundo, mas ficam bem mais rígidas para menores de 18 anos.
O que muda para todos os usuários
O ChatGPT vai dar respostas menos detalhadas sobre ataques em massa que já aconteceram e sobre as pessoas que os cometeram. Ficam de fora, por exemplo, reconstituições minuciosas com armas e equipamentos usados, como foram obtidos e comparações de estrago entre um caso e outro. O argumento da empresa é que esse nível de detalhe pode transformar autores em celebridades e servir de modelo para imitadores.
Isso não significa que o assunto virou tabu. Segundo a reportagem do Olhar Digital, o usuário continua podendo perguntar o que aconteceu, qual foi o impacto sobre vítimas e comunidades e quais são os sinais de alerta. O limite está nos detalhes operacionais, aqueles que ajudariam alguém a planejar ou executar um ataque.
Outra novidade é o uso do contexto. Uma pergunta que parece inocente isolada pode ser tratada de outra forma se as mensagens anteriores indicarem intenção violenta. Em termos simples: o sistema passa a olhar a conversa inteira, não só a última frase.
Conversa encerrada e conta suspensa
Se o sistema detectar sinais de que a pessoa está fixada em violência ou em ferir alguém gravemente, o ChatGPT pode encerrar a conversa automaticamente. Em caso de encerramentos repetidos, a conta pode ser suspensa temporariamente. A OpenAI não detalhou quantos encerramentos levam a uma suspensão.
Proteção extra para adolescentes
Para menores de 18 anos, os limites são mais amplos. O ChatGPT deve restringir informações práticas sobre armas e sobre sistemas de segurança que possam ser mal usadas, mesmo quando a pergunta parece inofensiva e não há intenção clara de causar dano. Regras anteriores já proibiam orientar a planejar atos violentos e limitavam ajuda a jovens que buscassem obter armas; agora o filtro se estende a esse tipo de informação prática.
Os adolescentes seguem tendo acesso a conteúdo de prevenção à violência, podem pedir apoio e receber sugestões para falar com um adulto de confiança. A lógica da empresa é separar o que ajuda a entender ou evitar situações perigosas do que facilita a violência.
Como o ChatGPT sabe a idade de quem usa
A OpenAI usa um sistema de previsão de idade, que combina vários sinais, incluindo padrões de comportamento durante o uso. Quando a ferramenta identifica um provável menor de 18 anos, a conta é direcionada para a experiência com mais proteções. Adultos classificados por engano podem confirmar a idade pela Persona, empresa parceira de verificação, e as restrições extras são retiradas.
Controles parentais e relatórios
Pais podem vincular a própria conta à do adolescente e ajustar algumas configurações de segurança. Nas contas vinculadas, a OpenAI já avisa os responsáveis quando revisores treinados identificam sinais graves de automutilação ou de comportamentos ligados a transtornos alimentares. Em julho de 2026, os alertas passaram a cobrir também casos em que a conta do jovem é desativada por violar as regras de violência, e a empresa planeja avisar os pais quando houver suspensão temporária após conversas repetidas sobre o tema.
A empresa afirma ter feito mais de 200 comunicados à polícia no terceiro trimestre de 2026, em situações que avaliou como ameaças potencialmente sérias. Também prevê publicar um Relatório de Segurança Comunitária, com a primeira edição esperada para o início de 2027, cobrindo o segundo semestre de 2026. As novas proteções devem começar a chegar nas próximas semanas.
O que isso significa para quem cria e usa IA
Para famílias e escolas, a mensagem é que as IAs de conversa estão deixando de ser só 'ferramentas neutras' e passando a ter regras de uso pensadas por faixa etária, algo parecido com o que já existe em plataformas de vídeo e redes sociais. Para quem desenvolve produtos com IA, como nós, o recado é claro: segurança, verificação de idade e transparência sobre o que a ferramenta recusa fazer entram cada vez mais no desenho do produto desde o início.
Vale lembrar que o próprio artigo-base não detalha como funcionam a análise de contexto e a previsão de idade, nem quantas contas serão afetadas. Ou seja, o impacto real só aparecerá com o uso. Fontes: Olhar Digital (OpenAI amplia restrições do ChatGPT sobre armas e violência para crianças e adolescentes) e cobertura do AI Weekly sobre o anúncio. Confira o comunicado oficial da OpenAI para os detalhes finais.