ChatGPT alerta autoridades sobre plano de pai matar filho no ES

Um agricultor de 36 anos foi preso preventivamente em São Gabriel da Palha, no interior do Espírito Santo, no dia 19 de junho. Ele é suspeito de planejar o assassinato do próprio filho de 8 anos. A prisão ocorreu um dia antes da data em que, segundo a investigação, o crime seria cometido.

O caso veio à tona depois que a OpenAI identificou o plano em conversas do suspeito com o ChatGPT.

A empresa notificou o FBI, que repassou as informações às autoridades brasileiras, apontando risco à vida da criança e também menções a ataques contra escolas, igrejas e autoridades públicas. A motivação, segundo a Polícia Civil, era deixar de pagar pensão alimentícia à ex-companheira.

Como o ChatGPT identificou o risco e acionou as autoridades

Segundo a Polícia Civil do Espírito Santo, o homem usava o chatbot como uma espécie de diário pessoal. Nas conversas registradas, ele expunha a intenção de matar o filho e buscava informações relacionadas ao crime.

Nas conversas, o suspeito relatou o plano de contratar um pistoleiro para executar o crime. Ele também citou possuir arma, corda e cianeto, além de verbalizar o desejo de atacar escolas, igrejas e agentes de segurança.

De acordo com o NC News, o homem chegou a oferecer R$ 50 mil a um pistoleiro, que recusou o serviço ao descobrir que o alvo era uma criança.

O trajeto da denúncia envolveu três instâncias, em dois países:

• Análise de risco: Os sistemas automáticos da OpenAI sinalizaram a conversa como ameaça de alta gravidade e, segundo a empresa, moderadores humanos analisaram o conteúdo e concluíram que havia risco iminente de violência.
• Cooperação internacional: A empresa acionou o FBI, órgão federal de investigação dos Estados Unidos, que por sua vez repassou o alerta ao Ministério da Justiça e Segurança Pública brasileiro.
• Investigação local: O material chegou à Polícia Civil do Espírito Santo, via Delegacia Especializada de Repressão aos Crimes Cibernéticos (DRCC), que deu início à investigação e pediu a prisão preventiva.

Segundo o delegado Breno Andrade, titular da DRCC, o caso é inédito no estado. Ele é considerado o terceiro do tipo registrado no Brasil a partir de comunicações de inteligência artificial, segundo apurou o NC News. Durante o depoimento, o suspeito negou a intenção de matar o filho.

O que a OpenAI diz sobre privacidade e compartilhamento de conversas

Procurada pela revista Exame, a OpenAI confirmou ter sido a origem do alerta e explicou o funcionamento do processo:

"Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes."

A empresa afirmou isso em nota. Segundo a reportagem, a OpenAI mantém sistemas automáticos, classificadores e listas de bloqueio que varrem as interações em busca de padrões de risco. O caso não vai direto para a polícia quando algo grave é sinalizado: antes, passa por revisão humana.

Do ponto de vista jurídico, o episódio expõe uma lacuna regulatória.

Segundo o advogado Luiz Augusto Filizzola D'Urso ao portal Migalhas, atualmente não existe, na legislação brasileira, uma norma que obrigue empresas desenvolvedoras de inteligência artificial a comunicar autoridades, mesmo quando identificam riscos à vida.

Por isso, a decisão de romper o sigilo depende inteiramente da política de uso de cada empresa.

Por que isso importa para quem trabalha com tecnologia

O caso capixaba reacende um debate fundamental: até onde vai a privacidade de uma conversa com IA? Para devs e profissionais que constroem produtos com modelos de linguagem de grande escala (LLMs), o episódio traz implicações concretas:

• Moderação de conteúdo: Qualquer aplicação que processe texto de usuários em larga escala precisa definir, com clareza contratual, em quais situações vai romper a expectativa de privacidade.
• Risco de falsos positivos: Separar uma ameaça real de uma conversa ficcional ou jornalística sobre violência exige camadas de revisão humana, não apenas classificadores automáticos.
• Priorização da vida: Como não há legislação brasileira específica, é o contrato de cada plataforma que estabelece os critérios para acionar autoridades.

Vale registrar a ressalva sobre os critérios que levaram ao alerta de máxima prioridade. O professor Álvaro Machado Dias, da Unifesp, explicou ao portal Juristas por que o caso ultrapassou o limite da manifestação de pensamentos:

"Havia identificação da vítima, descrição dos meios para a prática do crime e definição de uma data próxima para sua execução."

Segundo o pesquisador, o mecanismo de IA age sobre um conjunto específico de sinais de risco: identificação da vítima, descrição dos meios e data definida para a execução.

Quer entender melhor os limites éticos e de segurança da IA?

Se você trabalha com produtos de IA ou quer entender como decisões de moderação, privacidade e segurança são incorporadas ao design de sistemas, a Alura tem formações voltadas para o tema.

A trilha de Engenharia de Agentes de IA combina domínio técnico com discussões práticas sobre uso responsável.

Também vale explorar os artigos de IA do blog da Alura para aprofundar o debate sobre ética e governança em sistemas de inteligência artificial.