Grok Build da xAI enviava repositórios sem permissão

O que aconteceu

O Grok Build, CLI de programação da xAI, enviava repositórios Git inteiros para um bucket do Google Cloud Storage operado pela xAI, incluindo todo o histórico de commits.

Na prática, o volume transmitido ia muito além dos arquivos que uma tarefa de código precisava. O caso ganhou repercussão internacional depois de chegar à primeira página do Hacker News.

Como os envios foram descobertos

A descoberta partiu de um teste técnico: o pesquisador cereblab publicou um relatório detalhado após rotear o Grok Build CLI por um proxy de interceptação (mitmproxy) em um Mac. O objetivo era comparar o volume de dados que o modelo realmente precisava para responder a uma tarefa com o que efetivamente saía da máquina do usuário.

Os números expuseram a desproporção. Em um repositório de teste de 12 GB, o tráfego relacionado às respostas do modelo somou cerca de 192 KB, enquanto o canal de armazenamento moveu 5,10 GiB. Na prática, o que saiu da máquina foi cerca de 27.800 vezes maior do que o modelo realmente precisava para responder à tarefa.

O levantamento identificou outros pontos sensíveis:

• O upload incluiu um arquivo que o agente havia recebido instrução explícita de não abrir.
• Um arquivo .env com credenciais fictícias plantadas pelo pesquisador apareceu de forma literal e sem qualquer mascaramento no tráfego capturado.
• O alternador "Improve the model", que a maioria dos desenvolvedores entenderia como um controle de coleta de dados, não interrompeu os uploads: o servidor continuava retornando trace_upload_enabled em modo verdadeiro, pois essa configuração regula apenas o consentimento de treinamento, não a saída do código da máquina.

Após a repercussão, no dia 13 de julho o mesmo binário parou de fazer requisições de armazenamento, com o servidor passando a retornar a flag disable_codebase_upload em modo verdadeiro. Elon Musk se manifestou publicamente sobre o episódio.

"As a precautionary measure, all user data that was uploaded to SpaceXAI before now will be completely and utterly deleted." — Elon Musk, via X

Dias depois, a empresa abriu o código do agente e da interface de terminal do Grok Build sob licença Apache 2.0, mantendo o modelo em si fechado.

Se interessou pelo tema e quer ouvir mais sobre o assunto? Em nosso canal, Marcos Mendes e Fabrício Carraro debatem sobre essa e outras novidades do mundo Tech:

Por que isso importa para quem trabalha com tecnologia

Sam Altman, CEO da OpenAI, classificou o episódio como "preocupante" em publicação no X, reação que reflete como o caso repercutiu entre outras big techs do setor.

Para devs que usam agentes de IA no dia a dia, o episódio deixa recomendações práticas:

• Rotacione credenciais expostas: Especialistas recomendam trocar qualquer chave de API, senha ou token que o Grok Build possa ter acessado, incluindo segredos que já haviam sido removidos do histórico do Git.
• Não confie apenas nos alternadores de privacidade da interface: O caso mostrou que um controle visível ao usuário pode não ter relação nenhuma com o que realmente sai da máquina.
• Avalie o comportamento de rede das ferramentas de IA, não apenas as políticas escritas de privacidade, antes de apontar um agente para um repositório proprietário.

Vale uma ressalva: em testes comparativos do próprio pesquisador, Claude Code e Codex não enviaram nenhum pacote de repositório. O Gemini também não enviou nada em um teste ocioso, e o comportamento identificado foi específico do Grok Build, não um padrão do mercado de ferramentas de programação com IA.

Quer entender melhor como lidar com segurança e privacidade ao usar agentes de IA para programar?

Se você trabalha com ferramentas de IA generativa no desenvolvimento de software, vale entender melhor como avaliar governança de dados, privacidade e riscos de segurança nesses agentes.

Por isso, a Alura oferece a carreira de especialista em IA para quem já programa e quer aplicar essas ferramentas com mais critério no trabalho.