ChatGPT alerta autoridades sobre plano de pai matar filho no ES
5 minutos de leitura
Inscreva-se em nossa Newsletter
Fique por dentro de conteúdos, insights e oportunidades do universo tech. Receba novidades e lançamentos direto no seu e-mail.
5 minutos de leitura
Fique por dentro de conteúdos, insights e oportunidades do universo tech. Receba novidades e lançamentos direto no seu e-mail.
Um agricultor de 36 anos foi preso preventivamente em São Gabriel da Palha, no interior do Espírito Santo, no dia 19 de junho. Ele é suspeito de planejar o assassinato do próprio filho de 8 anos. A prisão ocorreu um dia antes da data em que, segundo a investigação, o crime seria cometido.
A empresa notificou o FBI, que repassou as informações às autoridades brasileiras, apontando risco à vida da criança e também menções a ataques contra escolas, igrejas e autoridades públicas. A motivação, segundo a Polícia Civil, era deixar de pagar pensão alimentícia à ex-companheira.
Segundo a Polícia Civil do Espírito Santo, o homem usava o chatbot como uma espécie de diário pessoal. Nas conversas registradas, ele expunha a intenção de matar o filho e buscava informações relacionadas ao crime.
Nas conversas, o suspeito relatou o plano de contratar um pistoleiro para executar o crime. Ele também citou possuir arma, corda e cianeto, além de verbalizar o desejo de atacar escolas, igrejas e agentes de segurança.
De acordo com o NC News, o homem chegou a oferecer R$ 50 mil a um pistoleiro, que recusou o serviço ao descobrir que o alvo era uma criança.
O trajeto da denúncia envolveu três instâncias, em dois países:
Segundo o delegado Breno Andrade, titular da DRCC, o caso é inédito no estado. Ele é considerado o terceiro do tipo registrado no Brasil a partir de comunicações de inteligência artificial, segundo apurou o NC News. Durante o depoimento, o suspeito negou a intenção de matar o filho.
Procurada pela revista Exame, a OpenAI confirmou ter sido a origem do alerta e explicou o funcionamento do processo:
"Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes."
A empresa afirmou isso em nota. Segundo a reportagem, a OpenAI mantém sistemas automáticos, classificadores e listas de bloqueio que varrem as interações em busca de padrões de risco. O caso não vai direto para a polícia quando algo grave é sinalizado: antes, passa por revisão humana.
Do ponto de vista jurídico, o episódio expõe uma lacuna regulatória.
Segundo o advogado Luiz Augusto Filizzola D'Urso ao portal Migalhas, atualmente não existe, na legislação brasileira, uma norma que obrigue empresas desenvolvedoras de inteligência artificial a comunicar autoridades, mesmo quando identificam riscos à vida.
Por isso, a decisão de romper o sigilo depende inteiramente da política de uso de cada empresa.
O caso capixaba reacende um debate fundamental: até onde vai a privacidade de uma conversa com IA? Para devs e profissionais que constroem produtos com modelos de linguagem de grande escala (LLMs), o episódio traz implicações concretas:
Vale registrar a ressalva sobre os critérios que levaram ao alerta de máxima prioridade. O professor Álvaro Machado Dias, da Unifesp, explicou ao portal Juristas por que o caso ultrapassou o limite da manifestação de pensamentos:
"Havia identificação da vítima, descrição dos meios para a prática do crime e definição de uma data próxima para sua execução."
Segundo o pesquisador, o mecanismo de IA age sobre um conjunto específico de sinais de risco: identificação da vítima, descrição dos meios e data definida para a execução.
Se você trabalha com produtos de IA ou quer entender como decisões de moderação, privacidade e segurança são incorporadas ao design de sistemas, a Alura tem formações voltadas para o tema.
A trilha de Engenharia de Agentes de IA combina domínio técnico com discussões práticas sobre uso responsável.
Também vale explorar os artigos de IA do blog da Alura para aprofundar o debate sobre ética e governança em sistemas de inteligência artificial.
Avalie essa notícia
