Apresentando o curso e objetivos
Vamos iniciar mais um curso na Alura. Este é o quarto curso da nossa série. Recomendamos assistir aos cursos anteriores para entender o que fizemos até agora e as features (funcionalidades) abordadas, pois, neste curso, vamos aprofundar alguns pontos de discussão com menos foco em execução. A proposta é mais conceitual, mexendo em projetos que já estão prontos ou fazendo ajustes em um projeto novo, com uma grande discussão sobre boas práticas da ferramenta: como utilizar e como configurar em mais detalhes. Este curso foi pensado para finalizar a série, portanto é importante ver os anteriores antes de começar este.
O primeiro ponto de discussão, já mencionado no primeiro curso da série e agora reforçado com mais informações, é a questão dos modelos de linguagem.
Comparando famílias e custos dos modelos
Como vimos durante a sequência de cursos, existem camadas que compõem nossos agentes e a ferramenta que nos ajuda a ganhar eficiência no dia a dia. Na base disso, estão os modelos de linguagem, que escolhemos normalmente diretamente no ChatGPT. Entre as variações, encontramos 5.6 Luna, 5.6 Terra, 5.6 Sol, 6 Luna, entre outras. A OpenAI utiliza a classificação Luna, Terra e Sol, sendo que Sol geralmente é o modelo mais avançado. Para a versão 6, existe também o Astra, que é ainda mais avançado, mantendo o padrão de famílias Luna, Terra e Sol. No 6.1, por exemplo, há a família Sol. Essas opções aparecem no plano que estamos utilizando aqui, na Alura.
Retomamos essa discussão porque é comum surgir a recomendação de sempre usar o modelo mais novo, como o 6.1. No entanto, essa escolha impacta o consumo, pois o 6.1 é o mais caro e mais potente. Muitas tarefas do dia a dia não exigem toda essa potência, e um modelo mais barato pode oferecer resultado equivalente, com custo menor e, em muitos casos, maior velocidade, já que a base de treinamento é mais enxuta e o modelo é literalmente diferente. Em cenários mais complexos, usar modelos mais potentes e mais novos faz muito sentido.
Gerenciando consumo e limites de uso
Percebemos essa diferença principalmente no consumo. No painel de uso recente, o sistema adota janelas de cinco horas; a cada cinco horas, o uso é redefinido. Dentro dessa janela, por exemplo, podemos ter 88% restantes do plano, indicando baixo consumo. No plano semanal, pode aparecer 98% restantes quando o ciclo acabou de reiniciar. Há também duas redefinições manuais: ao redefinir, o uso volta para 100% e continuamos utilizando, sem a pausa típica que costumamos ver no ChatGPT ou no próprio Claude, que impõem limites como “voltar a usar em cinco horas” ou “o limite semanal foi atingido”. Além dessas redefinições, também é possível adicionar créditos ou fazer um upgrade (atualização) de plano para ampliar os limites.
O ponto central é: ao usarmos um modelo mais recente e potente, o consumo aumenta rapidamente. Com um modelo mais leve, o gasto é menor, permitindo realizar mais tarefas com o mesmo limite. A escolha depende do nível de complexidade necessário, tema que vamos explorar ao longo deste curso.
Explorando custos e tarifação por modelo
Permanecendo no tema de custos, acessamos o portal OpenAI Developers e consultamos a seção de API (Interface de Programação de Aplicações). Não há uma página que apresente os custos do aplicativo em si; a única referência de custos que encontramos trata dos módulos de API (Interfaces de Programação de Aplicações). Ao acessar o ChatGPT, percebemos que a documentação não é tão detalhada quanto a parte de API (Interface de Programação de Aplicações) para pessoas desenvolvedoras, mas conseguimos obter uma noção da proporção de como varia o custo entre um modelo mais novo e um modelo mais barato ou mais antigo.
Como exemplo, no modelo GPT-6 Astra, o custo de input (entrada) — isto é, quando enviamos um prompt (instrução) para ser processado — é de 10 dólares por milhão de tokens (unidades de texto). Ou seja, para cada milhão de tokens (unidades de texto) usados na entrada, esse é o valor cobrado. Considerando a velocidade padrão, sem as opções de velocidade Fast (rápida) ou Ultra Fast (ultra rápida), observamos que, no mesmo GPT-6 Astra, ao mudar para uma velocidade superior, o input (entrada) pode chegar a 60 dólares por milhão de tokens (unidades de texto). É o mesmo modelo (GPT-6 Astra), com a diferença de velocidade justificando a variação de preço.
Vamos manter a análise na configuração padrão, pois não temos controle direto de velocidade aqui; apenas controlamos o nível de raciocínio, isto é, o esforço que o modelo emprega para responder. Esse ajuste até afeta a velocidade, mas não é o mesmo mecanismo de tarifação disponível nas APIs (Interfaces de Programação de Aplicações), que funcionam de forma diferente e são orientadas ao uso por pessoas desenvolvedoras. Nosso objetivo é evidenciar a proporção dessas diferenças.
Se quisermos usar o 6.1 Sol, o custo de input (entrada) cai de 10 dólares do Astra para 2 dólares. Já o custo de output (saída) é distinto: o Astra cobra 50 dólares por milhão de tokens (unidades de texto), enquanto o Sol cobra 10 dólares. No GPT-6 Luna, vemos ainda outra faixa de valores: 0,10 dólar por milhão de tokens (unidades de texto) de input (entrada) e 0,50 dólar por milhão de tokens (unidades de texto) de output (saída). Assim, conseguimos visualizar claramente a diferença entre os modelos.
Podemos nos perguntar: o 6 Luna é tão diferente assim do 6.1 Sol? O nível de resposta que cada um entrega varia muito? Precisamos testar, entender na prática e realizar alguns experimentos e sessões com cada modelo para identificar em quais tipos de solicitações cada um responde bem ou não, e assim por diante. É importante termos essa noção e, ainda que essa página não se aplique diretamente ao nosso cenário de uso, ela nos fornece uma boa proporção e uma ideia de quanto gastaremos, dependendo do modelo escolhido.
Nos cursos, no geral, estávamos usando o GPT-5.6 Sol. Não estávamos usando o Luna; utilizávamos o Sol mesmo, na versão 5.6, em vez do 6.1 Sol ou do 6A (disponíveis), mas que não foram utilizados. Optamos pelo modelo mais leve também por questões de custo, para não termos de interromper a gravação aguardando o contexto de uso ser redefinido ou recorrer à redefinição. O 5.6 Sol custa 4 dólares por milhão de tokens (unidades de texto) de input (entrada) e 20 dólares por milhão de tokens (unidades de texto) de output (saída). Nesse sentido, o 6.1 Sol chega a ser mais barato — mas isso não será sempre verdade. Modelos mais novos, em algumas empresas (e essa parece ser a política da OpenAI em certos lançamentos), podem sair inicialmente com custo menor para incentivar o uso, enquanto se fazem ajustes e validações. No entanto, nem sempre um modelo mais novo estará mais barato do que um mais antigo.
Os tipos de resposta que cada modelo gera também diferem. Portanto, não basta escolher um modelo apenas por ser mais barato ou mais antigo, presumindo que custará menos; este é um caso específico em que o 6.1 Sol poderia ter sido usado nos cursos com menor custo, mas mantivemos o 5.6 Sol por disponibilidade à época e por consistência nas respostas ao longo das gravações.
É importante consultar a tabela de preços. Por exemplo, o 5.5 Pro é bem mais caro: 30 dólares por milhão de tokens (unidades de texto) de input (entrada) e 180 dólares por milhão de tokens (unidades de texto) de output (saída). O 5.5 Pro, ao que tudo indica, é um modelo muito mais focado em código do que os demais. Existem essas diferenças de posicionamento; por isso, é necessário pesquisar como cada modelo funciona e qual é a base de treinamento. Esse é um tópico que vale aprofundar, acompanhando os lançamentos e escolhendo conforme a necessidade.
Há vários modelos em paralelo que podemos utilizar, cada qual com um foco e uma base de treinamento distintos, e isso afeta o resultado final das respostas.