Usamos inteligência artificial no dia a dia de forma direta e indireta, seja fazendo uma busca no navegador ou utilizando um assistente de voz no nosso smartphone, por exemplo.
A IA tem se tornado um componente essencial em muitas aplicações, como quando queremos fazer uma pesquisa mais inteligente, ou seja, obter uma resposta mais específica para uma dada pergunta.
Em muitas aplicações e plataformas, é comum o uso de assistentes virtuais ou chatbots. Na plataforma da Alura, por exemplo, temos a Luri.
A Luri é uma assistente que, se digitarmos um prompt como "Quero aprender Linux", ela nos retornará uma pesquisa de conteúdos refinada, ajudando na trajetória de aprendizado e recomendando conteúdos, artigos e cursos na plataforma.
Com isso em mente, como podemos construir aplicações inteligentes, ou seja, aplicações que utilizem modelos de inteligência artificial? Esse será o principal objeto de estudo da nossa jornada.
Configurando o Amazon Bedrock
Nesse caso específico, lidaremos com a aplicação da Meteora. A Meteora é um e-commerce para venda de peças de roupas e itens de vestuário em geral. Ao longo deste curso, trabalharemos na construção de ferramentas, como um chatbot para essa plataforma.
Para isso, utilizaremos um serviço da AWS chamado Amazon Bedrock.
Acessando o console da AWS
Daremos início acessando o console da AWS e fazendo o login.
Caso você ainda não tenha suas credenciais de acesso, é necessário configurá-las e criá-las.
Após isso, clicamos na opção "Faça login no console" no canto superior direito da tela. Realizado o login, temos acesso ao console da AWS, onde podemos visualizar todos os serviços e recursos disponíveis. Nesse caso, utilizaremos o Bedrock, mas antes de acessá-lo efetivamente, precisamos garantir que nossa conta de usuário tenha acesso a esse serviço.
Permitindo o acesso ao Amazon Bedrock
Na AWS, o gerenciamento de identidade e acesso regula as permissões de cada pessoa usuária para acessar os recursos de forma adequada. Sabendo disso, vamos buscar por "IAM" no campo de pesquisa do console, que é um acrônimo de Identity Access Management.
Feito isso, selecionaremos a primeira opção e, no menu lateral esquerdo, escolheremos "Users" ("Usuários"). Dessa forma, será exibida uma lista de pessoas usuários da nossa conta.
No caso do instrutor, ele selecionará LucasMata; você deve selecionar seu próprio usuário.
Após clicar no usuário desejado, encontramos uma lista de permissões (seção "Políticas de permissões"). No nosso caso, já existe a permissão para AmazonBedrockFullAccess.
Além da permissão AmazonBedrockFullAccess, temos a AdministratorAccess, isto é, o acesso como pessoa administradora. Com isso, já teríamos acesso ao Bedrock normalmente.
Caso a permissão não exista ainda, basta clicar em "Adicionar permissões" no canto superior direito. Para realizar este processo, existem três opções:
- Adicionar usuário ao grupo;
- Copiar permissões;
- Anexar políticas diretamente.
Para adicionar políticas de permissão padrão da AWS rapidamente, escolhemos a última opção ("Anexar políticas diretamente"). Feito isso, podemos pesquisar pela política "Bedrock" e, se necessário, incluir outras políticas disponíveis. No entanto, as permissões AmazonBedrockFullAccess e AdministratorAccess, que acabamos de conhecer, nos dão acesso total ao serviço do Bedrock.
Para anexar as novas políticas, clicamos em "Próximo > Adicionar Permissões". Uma mensagem confirmará que as políticas foram adicionadas, garantindo acesso aos serviços do Bedrock.
Acessando o serviço Amazon Bedrock
Para acessar o Amazon Bedrock, basta digitar o nome do serviço na barra de pesquisa superior. Nesse caso, clicaremos na primeira opção de serviço ("Amazon Bedrock").
Feito isso, vamos acessar a caixa do canto superior direito da tela, onde temos o texto "Experimentar o Bedrock" e, em seguida, um botão rotulado "Conceitos básicos", onde iremos clicar.
No serviço do Bedrock, temos acesso a uma série de modelos de inteligência artificial, como os LLMs (Large Language Models), que fazem o processamento da linguagem natural.
Autorizando o acesso aos modelos
Antes de interagir com esses modelos, precisamos solicitar autorização de acesso para nossa conta. No menu lateral esquerdo, vamos até "Bedrock configurations" e clicaremos em "Acesso a modelo".
Ao fazer isso, encontramos uma lista de modelos de base com acesso concedido. Para obter acesso aos modelos desejados, vamos clicar em "Modify model access" para modificar o acesso ao modelo.
Uma vez selecionados os modelos que queremos acessar, basta clicar em "Next". Com isso, enviamos uma solicitação de requisição de acesso, que será processada pela Amazon.
Para alguns modelos, como os da Anthropic, é necessário preencher um caso de uso, descrevendo o propósito, como construir um projeto de chatbot ou para fins educacionais.
Interagindo com os modelos
Após obter acesso aos modelos, podemos começar a interagir com eles no serviço de Playground. Na categoria "Playground" do menu lateral esquerdo, escolheremos a opção "Chat".
No Playground de chats, existem diferentes fornecedores de modelos, alguns open source e outros não. Por exemplo: podemos interagir com os modelos da própria Amazon.
Nesse caso, selecionando o modelo "Titan Text G1 - Express", verificamos que não há throughputs disponíveis, indicando que não podemos usar o modelo sob demanda.
Após aplicar o modelo, no campo de interação logo abaixo, conseguimos enviar uma requisição ou escrever um prompt para o modelo. Por exemplo, no contexto do Meteora, podemos enviar:
Opções de sandália para passeio na praia.
Com isso, o modelo retornará uma resposta. Nesse caso, ela veio em inglês e foi um pouco longa, mas podemos ajustar configurações, como temperatura e top-p para refinar a resposta.
Além disso, mais adiante na página, conseguimos visualizar algumas métricas, como, por exemplo, a latência, que é o tempo entre o envio da requisição e o retorno da resposta, e também a contagem de tokens, que são unidades de texto utilizadas pelo modelo.
Importante! Nada do que utilizamos é gratuito. Cada requisição de processamento e interação no chat usando o Playground do Bedrock pode ser creditada na conta devido ao uso do serviço da Amazon.
Conclusão
Agora que temos acesso ao Bedrock e começamos a interagir com o modelo de IA, vamos entender melhor como funciona esse ambiente e como podemos ajustar os parâmetros dos modelos?