00HORAS
00MIN
00SEG
Compre com desconto

Primeiras aulas do curso

Arquitetura de IA: LLMs, RAG e práticas de MLOps

A IA como Componente Arquitetural - Apresentação

Apresentando o curso e o instrutor

Olá! Sejam muito bem-vindes a mais um curso. Neste curso, vamos falar sobre IA como componente arquitetural: quando usar, quando não usar e quais são os componentes que complementam arquiteturas baseadas em IA ou que fazem uso de IA.

Meu nome é Daniel Amaral, eu sou um arquiteto de soluções. Sou homem pardo, tenho cabelo preto, estou usando óculos preto e uma camiseta vinho.

Audiodescrição: Daniel é um homem pardo, de cabelo preto, usando óculos preto e camiseta vinho.

Na tela, temos uma breve descrição das empresas pelas quais passei. Estou há 19 anos na área de tecnologia, atuei em diversos cargos e em diferentes empresas, e há um link do meu LinkedIn, caso queiram adicionar.

Introduzindo o paradigma probabilístico

Agora, quanto ao foco desta Aula 1, vamos tratar do paradigma probabilístico: o que é, para que serve e como isso nos impacta. Se você já conhece o tema, excelente. Se não conhece, este é o momento de passar a entender.

Quando falamos de tecnologia, até algum tempo atrás, grande parte do que construíamos — ao desenhar arquiteturas, criar e codificar sistemas — eram sistemas determinísticos. Por exemplo, sistemas baseados em regras, nos quais usamos condicionais, avaliamos valores de variáveis e, com base nisso, decidimos pelo caminho A, B ou C. Sempre que um determinado input (entrada) fosse fornecido, desde que as regras não fossem modificadas, teríamos o mesmo output (saída), de forma geral.

Com a chegada das LLMs (Large Language Models, Modelos de Linguagem Grande) — e isso não se restringe a elas, embora tenham tornado essa característica muito mais presente nas arquiteturas atuais — passamos a lidar com modelos e sistemas probabilísticos, também conhecidos como não determinísticos.

Abordando componentes complementares e distinguindo hype

Além disso, vamos abordar componentes complementares. Não é apenas uma LLM que nos ajudará a criar uma solução baseada em IA — aqui estamos falando especificamente de IA generativa. Quando integramos modelos à nossa aplicação, usualmente precisamos de outros componentes, como buscas semânticas baseadas em bancos de dados vetoriais, entre outras tecnologias complementares.

Vamos distinguir o que é hype (modismo) do que é uso efetivo, especialmente em soluções voltadas ao ambiente produtivo. Existe uma linha voltada para o low-code (baixo código), que acelera muitas atividades, mas precisamos ter clareza ao arquitetar uma aplicação. Para quem está com foco em trabalhar como pessoa arquiteta de soluções, é necessário ir além do low-code e garantir clareza sobre o que está sendo desenhado e construído. Esse é o foco deste curso.

Comparando sistemas determinísticos e probabilísticos

Como comentamos, quando falamos de sistemas determinísticos, sempre que tivermos a mesma entrada, o mesmo resultado será produzido. Por exemplo, em uma soma de valores ou na aplicação de um código de cupom: o sistema avalia se o cupom ainda está válido e qual é o percentual de desconto que ele atribui à compra, gerando um resultado sempre igual. O que pode mudar é a validade do cupom em determinada data; se ela tiver expirado, o resultado será “cupom inválido”. Essa é a lógica determinística: dado um input (entrada), aplicamos um conjunto de regras e obtemos o mesmo output (saída).

Quando falamos de sistemas probabilísticos ou não determinísticos — em geral, referindo-nos a LLMs (modelos de linguagem de grande porte) —, é inerente à tecnologia haver a probabilidade de que, dado um input (entrada), o output (saída) varie, pouco ou muito, de acordo com o modelo e com as configurações utilizadas. Isso precisa ficar muito claro, pois restringe como vamos adotar LLMs dentro das nossas aplicações e como as consideramos na arquitetura.

Isso significa que não podemos usar esses modelos quando precisarmos de um resultado claro? Não necessariamente. Podemos compor uma aplicação com módulos diferentes para atender aos requisitos de determinismo e, ao mesmo tempo, aproveitar capacidades probabilísticas onde fizer sentido.

Encerrando e anunciando o estudo de caso

No próximo vídeo, nós vamos apresentar um estudo de caso. Vamos deixar os detalhes para que este conteúdo não fique extenso e, então, analisaremos o contexto do problema e a proposta de solução no caso de uso da TecValite.

Até o próximo vídeo, pessoal! Obrigado e até mais!

A IA como Componente Arquitetural - Entendendo o conceito determinístico e probabilístico

Apresentando a diferença entre lógicas determinística e não determinística

Maravilha, pessoal, estamos de volta. Antes de seguir com o caso de uso, queremos demonstrar de forma visual a diferença entre lógica determinística e não determinística. É extremamente importante termos clareza sobre isso.

Vamos ativar a animação. À esquerda, temos um exemplo de lógica baseada em filas. As requisições são feitas — pensemos no exemplo de aplicação de um cupom de desconto, que nós comentamos no último vídeo. Nesse fluxo, passamos por condicionais para validar se a condição if é verdadeira e calcular o preço de acordo com o percentual de desconto daquele cupom. A resposta, 100% das vezes, seguirá a mesma lógica. Não há variação: a única variação considerada é a própria lógica implementada para verificar se o cupom é válido ou não. Dado que um cupom seja válido, sempre teremos a mesma resposta.

Explorando a interação com LLMs e calibração de temperatura

À direita, temos outro cenário, no qual podemos imaginar uma interação com um LLM: uma pessoa usuária faz uma pergunta, isso é submetido, convertido em tokens e passa por um processamento.

Calibração de temperatura em LLM (Modelo de Linguagem Grande)

De acordo com o modelo, a calibração de alguns parâmetros — especialmente a temperatura — influencia a variação da resposta. Podemos ajustar a temperatura, que é um parâmetro comum de configuração. Ao reduzir a temperatura, reduzimos a dispersão da distribuição de probabilidade das possíveis respostas geradas pelo modelo.

É importante destacar que zerar a temperatura não torna o modelo determinístico; ele permanece probabilístico. A temperatura impacta a aleatoriedade da resposta, mas, mesmo em 0, ainda pode haver variação.

Reforçando conceitos e encerrando a sessão

Esse é um ponto importante a considerar. Destacamos isso para oferecer mais clareza sobre os conceitos de comportamento determinístico e não determinístico.

Vamos encerrar aqui e, no próximo vídeo, continuaremos com o caso de uso de fato.

A IA como Componente Arquitetural - Contextualizando o estudo de caso

Apresentando o estudo de caso

Estamos de volta.

Vamos apresentar o nosso estudo de caso: a empresa fictícia Tec Varejo recebeu uma demanda voltada à inovação com uso de IA. Vamos entender o caso de uso existente na Tec Varejo. A demanda partiu da diretoria, o que é comum: deseja-se incorporar IA generativa, utilizando LLMs (Modelos de Linguagem Grande), no carrinho de compras para modernizar o checkout (finalização de compras). A premissa é que seria possível tornar o checkout (finalização de compras) mais inovador com LLMs (Modelos de Linguagem Grande).

Contextualizando o pedido por inovação com ia

Qual é o problema desse tipo de abordagem? Isso é recorrente. Nós lembramos de um evento, cerca de dois anos atrás, em que uma empresa — um banco digital — apresentou situação semelhante. Um time de tecnologia chegou com um pedido aberto pela diretoria para colocar alguma solução com IA generativa para rodar no aplicativo. Não se sabia o quê nem para quê; havia apenas o norte de colocar uma solução, um módulo com IA, e um prazo de entrega. Essa situação é crítica e pode parecer estranha, mas precisamos nos desdobrar, em alguns casos, para lidar com ela.

Conhecer e explorar as possibilidades e os caminhos de uso de forma segura e escalável pode ser a saída nessa circunstância. Simplesmente dizer "não" muitas vezes não é uma opção.

Definindo critérios de determinismo no checkout

Com conhecimento, nós, como pessoas arquitetas de soluções, conseguimos conduzir o desenvolvimento para que seja feito da melhor forma, de maneira segura e financeiramente viável.

Qual é o problema neste caso? É nítido. Estamos falando de um módulo de uma aplicação de e-commerce (comércio eletrônico) que opera de forma determinística. Precisamos somar os valores dos itens no carrinho e aplicar um cupom. Trata-se de matemática, portanto precisamos trabalhar de forma determinística. Não podemos ter margem para variações ou alucinações nesse tipo de cenário.

Redirecionando a solução para recomendações de produtos

Uma possível solução: em vez de atacar o carrinho com IA generativa, precisamos aplicar nosso conhecimento para transformar um cenário desfavorável em uma oportunidade. O carrinho não é o melhor caminho, mas a recomendação de produtos é muito mais interessante. Já existem, há muito tempo, estratégias de recomendação de produtos rodando com modelos de IA preditiva. Porém, é possível enriquecer bastante essa experiência trabalhando com IA generativa.

Podemos usar o que sabemos sobre a pessoa cliente, com pré-processamento de dados, para fazer recomendações baseadas em perfis, considerando a carteira de clientes e o que outras pessoas clientes utilizam hoje. Assim, chegamos a uma solução mais interessante, na qual a LLM (Modelo de Linguagem Grande) pode ser usada de forma mais adequada dentro da arquitetura da solução: não no carrinho, e sim no módulo de recomendação. No final das contas, trata-se de uma sugestão, e a pessoa cliente tem o poder de decisão de acatar ou não.

Concluindo e indicando próximos passos

Este é um cenário fictício, mas emblemático, porque faz parte da nossa realidade no dia a dia quando estamos arquitetando soluções.

No próximo vídeo, nós prosseguimos com mais do nosso conteúdo. Até a próxima.

Sobre o curso Arquitetura de IA: LLMs, RAG e práticas de MLOps

O curso Arquitetura de IA: LLMs, RAG e práticas de MLOps possui 175 minutos de vídeos, em um total de 49 atividades. Gostou? Conheça nossos outros cursos de Arquitetura de Software em Back-end, ou leia nossos artigos de Back-end.

Matricule-se e comece a estudar com a gente hoje! Conheça outros tópicos abordados durante o curso:

  • A IA como Componente Arquitetural
  • Padrões de integração: RAG e agentes autônomos
  • Trade-offs operacionais: custos, latência e resiliência
  • Observabilidade em sistemas de IA
  • Governança, segurança e IA no design de software

Aprenda Arquitetura de Software acessando integralmente esse e outros cursos. Comece hoje!

Plus 24

Todos os cursos, trilhas e certificados para evoluir.

Carregando precos do plano

7 dias para cancelar com reembolso

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do BrasilExclusivo na Black
  • Modo entrevista técnica e comportamental
  • 2.348 Cursos e 37 Carreiras
  • Certificados reconhecidos pelo mercado
  • Luri: nossa IA exclusiva, que acelera e personaliza seu aprendizado

Pro 24

Aprenda mais rápido com IA, idiomas e imersões.

Carregando precos do plano

7 dias para cancelar com reembolso

TUDO DO PLUS, MAIS:

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do Brasil
  • Modo entrevista técnica e comportamental
  • Desafios de código
  • System design
  • Luri Vision: a versão mais completa da nossa IA, que permite envio de imagens
  • Livros da Casa do código: Acesso ao acervo de livros da maior editora tech do país
  • Alura Língua: cursos de inglês e espanhol com foco na área tech

Ultra Lab 24

Aceleração de carreira: mentoria, vagas e prática guiada.

Carregando precos do plano

7 dias para cancelar com reembolso

TUDO DO PRO, MAIS:

Alura EmpregabilidadeNOVO
  • Acesso ao maior portal de vagas tech do Brasil
  • Modo entrevista técnica e comportamental
  • Desafios de código
  • System design
  • 2 mentorias individuais com foco na sua carreira
  • Luri Vision Ilimitada: a versão mais completa da nossa IA
  • Lives CareerUp: eventos exclusivos com foco em empregabilidade e carreira
Melhor opção para a sua carreira
Conheça os Planos para Empresas