Um agricultor de 36 anos foi preso preventivamente em São Gabriel da Palha, no interior do Espírito Santo, no dia 19 de junho. Ele é suspeito de planejar o assassinato do próprio filho de 8 anos. A prisão ocorreu um dia antes da data em que, segundo a investigação, o crime seria cometido.
O caso veio à tona depois que a OpenAI identificou o plano em conversas do suspeito com o ChatGPT.
A empresa notificou o FBI, que repassou as informações às autoridades brasileiras, apontando risco à vida da criança e também menções a ataques contra escolas, igrejas e autoridades públicas. A motivação, segundo a Polícia Civil, era deixar de pagar pensão alimentícia à ex-companheira.
Como o ChatGPT identificou o risco e acionou as autoridades
Segundo a Polícia Civil do Espírito Santo, o homem usava o chatbot como uma espécie de diário pessoal. Nas conversas registradas, ele expunha a intenção de matar o filho e buscava informações relacionadas ao crime.
Nas conversas, o suspeito relatou o plano de contratar um pistoleiro para executar o crime. Ele também citou possuir arma, corda e cianeto, além de verbalizar o desejo de atacar escolas, igrejas e agentes de segurança.
De acordo com o NC News, o homem chegou a oferecer R$ 50 mil a um pistoleiro, que recusou o serviço ao descobrir que o alvo era uma criança.
O trajeto da denúncia envolveu três instâncias, em dois países:
- Análise de risco: Os sistemas automáticos da OpenAI sinalizaram a conversa como ameaça de alta gravidade e, segundo a empresa, moderadores humanos analisaram o conteúdo e concluíram que havia risco iminente de violência.
- Cooperação internacional: A empresa acionou o FBI, órgão federal de investigação dos Estados Unidos, que por sua vez repassou o alerta ao Ministério da Justiça e Segurança Pública brasileiro.
- Investigação local: O material chegou à Polícia Civil do Espírito Santo, via Delegacia Especializada de Repressão aos Crimes Cibernéticos (DRCC), que deu início à investigação e pediu a prisão preventiva.
Segundo o delegado Breno Andrade, titular da DRCC, o caso é inédito no estado. Ele é considerado o terceiro do tipo registrado no Brasil a partir de comunicações de inteligência artificial, segundo apurou o NC News. Durante o depoimento, o suspeito negou a intenção de matar o filho.
O que a OpenAI diz sobre privacidade e compartilhamento de conversas
Procurada pela revista Exame, a OpenAI confirmou ter sido a origem do alerta e explicou o funcionamento do processo:
"Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes."
A empresa afirmou isso em nota. Segundo a reportagem, a OpenAI mantém sistemas automáticos, classificadores e listas de bloqueio que varrem as interações em busca de padrões de risco. O caso não vai direto para a polícia quando algo grave é sinalizado: antes, passa por revisão humana.
Do ponto de vista jurídico, o episódio expõe uma lacuna regulatória.
Segundo o advogado Luiz Augusto Filizzola D'Urso ao portal Migalhas, atualmente não existe, na legislação brasileira, uma norma que obrigue empresas desenvolvedoras de inteligência artificial a comunicar autoridades, mesmo quando identificam riscos à vida.
Por isso, a decisão de romper o sigilo depende inteiramente da política de uso de cada empresa.
Por que isso importa para quem trabalha com tecnologia
O caso capixaba reacende um debate fundamental: até onde vai a privacidade de uma conversa com IA? Para devs e profissionais que constroem produtos com modelos de linguagem de grande escala (LLMs), o episódio traz implicações concretas:
- Moderação de conteúdo: Qualquer aplicação que processe texto de usuários em larga escala precisa definir, com clareza contratual, em quais situações vai romper a expectativa de privacidade.
- Risco de falsos positivos: Separar uma ameaça real de uma conversa ficcional ou jornalística sobre violência exige camadas de revisão humana, não apenas classificadores automáticos.
- Priorização da vida: Como não há legislação brasileira específica, é o contrato de cada plataforma que estabelece os critérios para acionar autoridades.
Vale registrar a ressalva sobre os critérios que levaram ao alerta de máxima prioridade. O professor Álvaro Machado Dias, da Unifesp, explicou ao portal Juristas por que o caso ultrapassou o limite da manifestação de pensamentos:
"Havia identificação da vítima, descrição dos meios para a prática do crime e definição de uma data próxima para sua execução."
Segundo o pesquisador, o mecanismo de IA age sobre um conjunto específico de sinais de risco: identificação da vítima, descrição dos meios e data definida para a execução.
Quer entender melhor os limites éticos e de segurança da IA?
Se você trabalha com produtos de IA ou quer entender como decisões de moderação, privacidade e segurança são incorporadas ao design de sistemas, a Alura tem formações voltadas para o tema.
A trilha de Engenharia de Agentes de IA combina domínio técnico com discussões práticas sobre uso responsável.
Também vale explorar os artigos de IA do blog da Alura para aprofundar o debate sobre ética e governança em sistemas de inteligência artificial.