00HORAS
00MIN
00SEG
Compre com desconto

Primeiras aulas do curso

ChatGPT Work: otimização do trabalho e redução de custos da IA

Custos e problemas de alucinação - Introdução

Apresentando o curso e objetivos

Bem-vindo a mais um curso na Alura. Eu sou o Ricardo Bugan e serei o instrutor neste curso, no qual vamos falar do ChatGPT Work (ChatGPT para o trabalho). Este é o quarto curso desta série.

Se você não assistiu aos cursos anteriores ou tem interesse em conhecer essa ferramenta desde o início, recomendamos assistir aos três cursos prévios para chegar preparado a este conteúdo. Aqui, vamos analisar a ferramenta de uma maneira diferente: nosso foco será otimizar seu uso.

Vamos entender detalhes de configuração extremamente importantes, por que a escolha do modelo é tão relevante e como organizar a manutenção de seus agentes, de suas skills (habilidades) e de seus projetos, para tirar o melhor proveito da ferramenta. Também abordaremos a parte de precificação, para entender como a precificação dos modelos...

Explorando subagentes, projetos e comandos

Vamos entender melhor os subagentes e como aprimorar seu uso. Vimos bastante conteúdo no curso anterior sobre como utilizá-los, mas aqui veremos pequenas configurações para extrair o melhor proveito e economizar ao trabalhar com subagentes. Também vamos aprofundar a questão da janela de contexto. Para isso, vamos recuperar uma conversa e analisar seu comportamento.

Vamos continuar com os dois projetos com os quais já trabalhamos anteriormente: o projeto de análise de mercado e o projeto da Verde Distribuidora. Dessa forma, poderemos observar os casos que ocorreram conforme formos avançando e entender como melhorar esses fluxos.

Também vamos analisar nossa paleta de comandos, destacando comandos importantes para manter à mão e saber utilizar da melhor forma para, novamente, economizar e extrair o melhor da ferramenta no dia a dia. Vamos começar?

Custos e problemas de alucinação - Modelo de precificação

Apresentando o curso e objetivos

Vamos iniciar mais um curso na Alura. Este é o quarto curso da nossa série. Recomendamos assistir aos cursos anteriores para entender o que fizemos até agora e as features (funcionalidades) abordadas, pois, neste curso, vamos aprofundar alguns pontos de discussão com menos foco em execução. A proposta é mais conceitual, mexendo em projetos que já estão prontos ou fazendo ajustes em um projeto novo, com uma grande discussão sobre boas práticas da ferramenta: como utilizar e como configurar em mais detalhes. Este curso foi pensado para finalizar a série, portanto é importante ver os anteriores antes de começar este.

O primeiro ponto de discussão, já mencionado no primeiro curso da série e agora reforçado com mais informações, é a questão dos modelos de linguagem.

Comparando famílias e custos dos modelos

Como vimos durante a sequência de cursos, existem camadas que compõem nossos agentes e a ferramenta que nos ajuda a ganhar eficiência no dia a dia. Na base disso, estão os modelos de linguagem, que escolhemos normalmente diretamente no ChatGPT. Entre as variações, encontramos 5.6 Luna, 5.6 Terra, 5.6 Sol, 6 Luna, entre outras. A OpenAI utiliza a classificação Luna, Terra e Sol, sendo que Sol geralmente é o modelo mais avançado. Para a versão 6, existe também o Astra, que é ainda mais avançado, mantendo o padrão de famílias Luna, Terra e Sol. No 6.1, por exemplo, há a família Sol. Essas opções aparecem no plano que estamos utilizando aqui, na Alura.

Retomamos essa discussão porque é comum surgir a recomendação de sempre usar o modelo mais novo, como o 6.1. No entanto, essa escolha impacta o consumo, pois o 6.1 é o mais caro e mais potente. Muitas tarefas do dia a dia não exigem toda essa potência, e um modelo mais barato pode oferecer resultado equivalente, com custo menor e, em muitos casos, maior velocidade, já que a base de treinamento é mais enxuta e o modelo é literalmente diferente. Em cenários mais complexos, usar modelos mais potentes e mais novos faz muito sentido.

Gerenciando consumo e limites de uso

Percebemos essa diferença principalmente no consumo. No painel de uso recente, o sistema adota janelas de cinco horas; a cada cinco horas, o uso é redefinido. Dentro dessa janela, por exemplo, podemos ter 88% restantes do plano, indicando baixo consumo. No plano semanal, pode aparecer 98% restantes quando o ciclo acabou de reiniciar. Há também duas redefinições manuais: ao redefinir, o uso volta para 100% e continuamos utilizando, sem a pausa típica que costumamos ver no ChatGPT ou no próprio Claude, que impõem limites como “voltar a usar em cinco horas” ou “o limite semanal foi atingido”. Além dessas redefinições, também é possível adicionar créditos ou fazer um upgrade (atualização) de plano para ampliar os limites.

O ponto central é: ao usarmos um modelo mais recente e potente, o consumo aumenta rapidamente. Com um modelo mais leve, o gasto é menor, permitindo realizar mais tarefas com o mesmo limite. A escolha depende do nível de complexidade necessário, tema que vamos explorar ao longo deste curso.

Explorando custos e tarifação por modelo

Permanecendo no tema de custos, acessamos o portal OpenAI Developers e consultamos a seção de API (Interface de Programação de Aplicações). Não há uma página que apresente os custos do aplicativo em si; a única referência de custos que encontramos trata dos módulos de API (Interfaces de Programação de Aplicações). Ao acessar o ChatGPT, percebemos que a documentação não é tão detalhada quanto a parte de API (Interface de Programação de Aplicações) para pessoas desenvolvedoras, mas conseguimos obter uma noção da proporção de como varia o custo entre um modelo mais novo e um modelo mais barato ou mais antigo.

Como exemplo, no modelo GPT-6 Astra, o custo de input (entrada) — isto é, quando enviamos um prompt (instrução) para ser processado — é de 10 dólares por milhão de tokens (unidades de texto). Ou seja, para cada milhão de tokens (unidades de texto) usados na entrada, esse é o valor cobrado. Considerando a velocidade padrão, sem as opções de velocidade Fast (rápida) ou Ultra Fast (ultra rápida), observamos que, no mesmo GPT-6 Astra, ao mudar para uma velocidade superior, o input (entrada) pode chegar a 60 dólares por milhão de tokens (unidades de texto). É o mesmo modelo (GPT-6 Astra), com a diferença de velocidade justificando a variação de preço.

Vamos manter a análise na configuração padrão, pois não temos controle direto de velocidade aqui; apenas controlamos o nível de raciocínio, isto é, o esforço que o modelo emprega para responder. Esse ajuste até afeta a velocidade, mas não é o mesmo mecanismo de tarifação disponível nas APIs (Interfaces de Programação de Aplicações), que funcionam de forma diferente e são orientadas ao uso por pessoas desenvolvedoras. Nosso objetivo é evidenciar a proporção dessas diferenças.

Se quisermos usar o 6.1 Sol, o custo de input (entrada) cai de 10 dólares do Astra para 2 dólares. Já o custo de output (saída) é distinto: o Astra cobra 50 dólares por milhão de tokens (unidades de texto), enquanto o Sol cobra 10 dólares. No GPT-6 Luna, vemos ainda outra faixa de valores: 0,10 dólar por milhão de tokens (unidades de texto) de input (entrada) e 0,50 dólar por milhão de tokens (unidades de texto) de output (saída). Assim, conseguimos visualizar claramente a diferença entre os modelos.

Podemos nos perguntar: o 6 Luna é tão diferente assim do 6.1 Sol? O nível de resposta que cada um entrega varia muito? Precisamos testar, entender na prática e realizar alguns experimentos e sessões com cada modelo para identificar em quais tipos de solicitações cada um responde bem ou não, e assim por diante. É importante termos essa noção e, ainda que essa página não se aplique diretamente ao nosso cenário de uso, ela nos fornece uma boa proporção e uma ideia de quanto gastaremos, dependendo do modelo escolhido.

Nos cursos, no geral, estávamos usando o GPT-5.6 Sol. Não estávamos usando o Luna; utilizávamos o Sol mesmo, na versão 5.6, em vez do 6.1 Sol ou do 6A (disponíveis), mas que não foram utilizados. Optamos pelo modelo mais leve também por questões de custo, para não termos de interromper a gravação aguardando o contexto de uso ser redefinido ou recorrer à redefinição. O 5.6 Sol custa 4 dólares por milhão de tokens (unidades de texto) de input (entrada) e 20 dólares por milhão de tokens (unidades de texto) de output (saída). Nesse sentido, o 6.1 Sol chega a ser mais barato — mas isso não será sempre verdade. Modelos mais novos, em algumas empresas (e essa parece ser a política da OpenAI em certos lançamentos), podem sair inicialmente com custo menor para incentivar o uso, enquanto se fazem ajustes e validações. No entanto, nem sempre um modelo mais novo estará mais barato do que um mais antigo.

Os tipos de resposta que cada modelo gera também diferem. Portanto, não basta escolher um modelo apenas por ser mais barato ou mais antigo, presumindo que custará menos; este é um caso específico em que o 6.1 Sol poderia ter sido usado nos cursos com menor custo, mas mantivemos o 5.6 Sol por disponibilidade à época e por consistência nas respostas ao longo das gravações.

É importante consultar a tabela de preços. Por exemplo, o 5.5 Pro é bem mais caro: 30 dólares por milhão de tokens (unidades de texto) de input (entrada) e 180 dólares por milhão de tokens (unidades de texto) de output (saída). O 5.5 Pro, ao que tudo indica, é um modelo muito mais focado em código do que os demais. Existem essas diferenças de posicionamento; por isso, é necessário pesquisar como cada modelo funciona e qual é a base de treinamento. Esse é um tópico que vale aprofundar, acompanhando os lançamentos e escolhendo conforme a necessidade.

Há vários modelos em paralelo que podemos utilizar, cada qual com um foco e uma base de treinamento distintos, e isso afeta o resultado final das respostas.

Custos e problemas de alucinação - Modelos que alucinam

Apresentando o problema das alucinações

Agora que já vimos o modelo de especificação, trouxemos o projeto do curso anterior com o qual estávamos trabalhando para tratar de outro problema comum quando trabalhamos com um modelo de LLM (Modelo de Linguagem Grande) ou com o ChatGPT: o fato de os modelos começarem a alucinar.

Essas alucinações podem ocorrer em diversos momentos e aspectos. Por exemplo, podem fornecer uma resposta em si equivocada, realizar um trabalho sem relação com o que foi solicitado ou cruzar informações que não deveriam ser cruzadas — informações que, por exemplo, pertencem a projetos distintos. Também podem ocorrer durante a execução de uma tarefa, no próprio processo de execução.

Quando pedimos para lançar os sub-agentes pela primeira vez, já havíamos criado no projeto o arquivo referente ao pesquisador. No entanto, na primeira execução do agente, o sistema não criou, como sub-agente, uma conversa com as características do pesquisador que havíamos pedido, mesmo já tendo criado os arquivos. No curso anterior nós passamos por isso.

Diagnosticando comportamentos de agentes

Diante desse comportamento, questionamos: "Você tem certeza de que criou da maneira certa? Você fez o prompt (instrução) solicitado da maneira correta?" Em resposta, o sistema indicou que, na execução, havia chamado o Codex, os agents (agentes), o analista de concorrência e assim por diante. Porém, ao verificarmos, isso não havia sido feito.

Na segunda execução — esta que está sendo mostrada — o sistema trouxe inclusive uma tag (etiqueta) informando "estou utilizando isso na conversa". Ainda assim, na primeira execução (apresentada abaixo), executou a partir de um agente genérico, como mencionou, e, ao analisarmos o que foi feito e como foi feito, não utilizou aquele agente especificado.

Neste caso, podemos afirmar que o agente não alucinou: ele executou o que solicitamos, porém não da maneira especificada. Isso é importante porque os nossos subagentes tinham regras específicas sobre onde deveriam buscar, como deveriam proceder, em quais locais era permitido buscar e a que recursos possuíam ou não acesso.

A alucinação pode ocorrer de diferentes maneiras: tanto na execução — quando o agente ignora um comando que nós havíamos passado — quanto na própria resposta, que pode não fazer sentido para a solicitação feita. Ao projetarmos nossos agentes e nossa ferramenta de trabalho, precisamos ter cuidado com alucinação.

Compreendendo a janela de contexto

Há um fator que também interfere na escolha dos modelos de linguagem, assunto que nós mencionamos no vídeo anterior: o tamanho da janela de contexto. Trata-se de um conceito presente em toda LLM (Modelo de Linguagem de Grande Porte). Basicamente, a janela de contexto determina quanto texto o agente, isto é, o modelo de LLM (Modelo de Linguagem de Grande Porte), consegue processar de uma vez sem perder o contexto da conversa.

Em outras palavras, indica quantos tokens (unidades de texto), quantas palavras cabem na conversa até que seja necessário truncá-la. Já abordamos esse conceito de forma superficial e ele é amplamente mencionado: a janela de contexto, como funciona e para que serve. Agora, vamos detalhar por que essa janela é importante e como o nosso sistema — como o ChatGPT — conduz a conversa quando enviamos uma mensagem.

Com isso, vamos entender em profundidade por que a janela de contexto é relevante e por que afeta tanto a ocorrência de alucinações. Esse entendimento é essencial para conseguirmos depurar os nossos sistemas e ferramentas quando enfrentamos muitos problemas de alucinação.

Sobre o curso ChatGPT Work: otimização do trabalho e redução de custos da IA

O curso ChatGPT Work: otimização do trabalho e redução de custos da IA possui 93 minutos de vídeos, em um total de 32 atividades. Gostou? Conheça nossos outros cursos de Automação & Produtividade em Inteligência Artificial, ou leia nossos artigos de Inteligência Artificial.

Matricule-se e comece a estudar com a gente hoje! Conheça outros tópicos abordados durante o curso:

  • Custos e problemas de alucinação
  • Cuidando da janela de contexto
  • Roteamento de arquivos
  • Selecionando modelos mais baratos
  • Reaproveitando tokens

Aprenda Automação & Produtividade acessando integralmente esse e outros cursos. Comece hoje!

Plus 24

Todos os cursos, trilhas e certificados para evoluir.

Carregando precos do plano

7 dias para cancelar com reembolso

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do BrasilExclusivo na Black
  • Modo entrevista técnica e comportamental
  • 2.348 Cursos e 37 Carreiras
  • Certificados reconhecidos pelo mercado
  • Luri: nossa IA exclusiva, que acelera e personaliza seu aprendizado

Pro 24

Aprenda mais rápido com IA, idiomas e imersões.

Carregando precos do plano

7 dias para cancelar com reembolso

TUDO DO PLUS, MAIS:

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do Brasil
  • Modo entrevista técnica e comportamental
  • Desafios de código
  • System design
  • Luri Vision: a versão mais completa da nossa IA, que permite envio de imagens
  • Livros da Casa do código: Acesso ao acervo de livros da maior editora tech do país
  • Alura Língua: cursos de inglês e espanhol com foco na área tech

Ultra Lab 24

Aceleração de carreira: mentoria, vagas e prática guiada.

Carregando precos do plano

7 dias para cancelar com reembolso

TUDO DO PRO, MAIS:

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do Brasil
  • Modo entrevista técnica e comportamental
  • Desafios de código
  • System design
  • 2 mentorias individuais com foco na sua carreira
  • Luri Vision Ilimitada: a versão mais completa da nossa IA
  • Lives CareerUp: eventos exclusivos com foco em empregabilidade e carreira
Melhor opção para a sua carreira
Conheça os Planos para Empresas