Apresentando o curso e os provedores de LLMs
Para darmos início ao curso que envolve o uso de LLMs (Modelos de Linguagem Grande) em aplicações, o primeiro passo é ter uma conta na plataforma que desejamos utilizar como LLM (Modelo de Linguagem Grande). No mercado atual, existem diversas empresas que fornecem serviços de LLM (Modelos de Linguagem Grande), isto é, grandes modelos de linguagem que utilizaremos para criar as ferramentas e aplicações que pretendemos desenvolver.
Entre essas empresas, temos a Anthropic, que fornece o Claude e o Claude Code, com modelos como o Opus. Temos também o Gemini, que pertence ao Google. E temos a família de modelos da OpenAI, que envolve todos os modelos de linguagem associados a ferramentas como o ChatGPT.
Acessando a plataforma da OpenAI
Neste curso, vamos utilizar a plataforma da OpenAI e, por isso, faremos as comunicações de API (Interface de Programação de Aplicações) com essa plataforma. Antes de mais nada, vamos acessar o site da OpenAI no navegador: platform.openai.com.
Se ainda não houver conta na plataforma, será necessário criar uma. Existe uma camada de recursos gratuitos que podemos utilizar, e vamos indicar como esses recursos funcionam. Se já houver uma conta e a autenticação tiver sido concluída na plataforma, essa será a tela exibida.
Explorando configurações e limites de uso
Nessa área, a plataforma indica quais são os modelos mais modernos disponíveis atualmente, aqueles que são mais caros e têm maior potencial de uso, e também os que são mais baratos. Caso desejemos verificar os modelos disponíveis especificamente para nossa conta, devemos clicar na organização, em “Configurações de Organização”, e no canto esquerdo selecionar o botão “Limits”.
Na aba “Limits”, veremos o montante de recurso financeiro associado à conta, o quanto já foi utilizado e o máximo disponível. Lembrando que as contas pagas são pré-pagas. O que isso significa? Em geral, quando utilizamos qualquer recurso de LLM (Modelo de Linguagem Grande), fazemos requisições ao serviço da empresa fornecedora para integrar a tecnologia em nossa aplicação. Esse recurso é debitado da conta por meio de tokens (unidades de contagem de texto). Vamos detalhar mais adiante o que esses tokens significam, mas, para esta etapa do curso, basta entender que quanto mais solicitamos (isto é, quanto mais texto enviamos) e quanto mais a plataforma devolve (quanto mais texto recebemos), mais gastamos. O preço do que enviamos e do que recebemos é diferente.
Verificando níveis de uso e modelos disponíveis
Ao rolar a página, veremos os tiers (níveis) de uso. No exemplo apresentado, a conta está no tier (nível) 4. Ao rolar mais um pouco, a plataforma mostra os modelos disponíveis para uso, isto é, aqueles que podemos utilizar na aplicação. Nesse caso, por estar no tier (nível) 4, estão disponíveis todos os modelos com o volume de requisições indicado para esse nível.
Caso esteja criando uma conta gratuita, será necessário alterar para o plano de free tier (camada gratuita). Os modelos disponíveis serão estes que utilizaremos nos nossos exemplos e nas nossas implementações.
Analisando capacidades, documentação e custos dos modelos
Cada modelo é diferente. Quando falamos de LLMs (Modelos de Linguagem de Grande Porte), referimo-nos a modelos de linguagem treinados com um volume muito grande de dados. A principal capacidade desses modelos está em gerar dados — em texto, áudio ou imagem —, mas principalmente em texto, utilizando linguagem semelhante à humana.
Se quisermos analisar esses modelos com mais profundidade, podemos acessar as configurações e a documentação para pessoa desenvolvedora. Vamos aumentar um pouco o zoom. Na parte superior, nas abas Overview (Visão geral) e Models (Modelos), são exibidas informações sobre os modelos disponíveis.
Cada um desses modelos possui capacidades diferentes de processamento para entregar informações e, ao mesmo tempo, custos distintos. O modelo disponível com maior desempenho é o modelo Sol: ele custa 4 dólares para cada 1 milhão de tokens (unidades textuais) enviados e 20 dólares para cada 1 milhão de tokens gerados. Comparando com o modelo de nível intermediário, o Terra, o custo de 4 dólares cai para 2, e o de 20 cai para 12. Já o modelo mais barato, adequado para algumas atividades internas da sua empresa ou para o desenvolvimento de ferramentas que não exigem tanto processamento nem tantas informações simultâneas, custa 0,20 dólares por 1 milhão de tokens de entrada e 1,20 dólares por 1 milhão de tokens de saída.
Gerando e entendendo a chave de API
Não vamos nos aprofundar mais do que isso agora. O mais importante é entender que precisaremos gerar uma chave de API (Interface de Programação de Aplicações) para utilizar nossas aplicações. O que é uma chave de API? É a forma de informar à OpenAI, no serviço dela, que temos uma conta válida e que é dessa conta que tentaremos consumir os recursos disponíveis. O modelo de linguagem terá, para nós, a seguinte serventia: fazemos uma interação com os servidores da OpenAI em formato de texto, e recebemos uma resposta em formato de texto. Para que isso aconteça, é necessário um acordo estabelecido, confirmado por meio dessa chave de acesso, a chave de API.
Vamos voltar à conta principal. No menu lateral esquerdo, há a seção API Keys (Chaves de API). Ao clicar em API Keys, são exibidas as chaves disponíveis. Vamos clicar em Create a New Secret (Criar um novo segredo), informar o nome do projeto — por exemplo, "Curso Alura" — e, em seguida, clicar em Create a Secret (Criar segredo). Será gerada uma chave alfanumérica, que estabelece o acordo entre a aplicação que estamos desenvolvendo em Python e a API da OpenAI. É importante copiá-la, pois depois não será possível acessá-la novamente.
No nosso próximo vídeo, nós vamos mostrar como utilizar essa chave de API dentro da aplicação de forma segura. Até lá. [♪]