Interpretabilidade e alinhamento: Entendendo o comportamento das IAs – Hipsters Ponto Tech #525

Hoje o papo é sobre interpretabilidade em modelos de inteligência artificial!

Neste episódio, conversamos sobre como pesquisas recentes, em especial da Anthropic, vêm buscando entender o que acontece por baixo do capô dos grandes modelos de linguagem, além de como eles chegam a determinadas respostas. De alinhamento a alucinações, passando por reasoning, emoções, J-Space, comportamentos emergentes e os desafios de abrir a caixa-preta das grandes IAs, a conversa é bastante abrangente e repleta de boas referências. Vem ver quem participou desse papo:

• Paulo Silveira, o host que usa a palavra governança
• Fernanda Kipper, Software Engineer & Founder na kipper.dev
• Vinny Neves, cohost, dev e professor na Alura
• Fabrício Carraro, co-host do IA Sob Controle, Program Manager da Alura, autor de IA e host do podcast Carreira Sem Fronteiras

 Links: 

• Gemini Notebook (ex-NotebookLM)
• Podcast Naruhodo!
• O Império da IA
• IA Sob Controle 213: O Império da IA – Sonhos e Pesadelos na OpenAI de Sam Altman
• Logits: o que acontece antes da IA escolher a próxima palavra
• Estudo: A global workspace in language models
• Estudo: Emotion concepts and their function in a large language model
• Estudo: Reasoning models don’t always say what they think
• Projeto Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data
• Estudo: Persona vectors: Monitoring and controlling character traits in language models
• Estudo: Teaching Claude why
• Estudo: Mapping the mind of a large language model
• Estudo: Tracing the thoughts of a large language model
• Estudo: Agentic misalignment: How LLMs could be insider threats
• Estudo: Alignment faking in large language models
• Estudo: Measuring Faithfulness in Chain-of-Thought Reasoning
• Estudo: LLM Lies: Hallucinations are not Bugs, but Features as Adversarial Examples

Toda revolução tecnológica começa com quem antecipa o futuro e transforma ideias em soluções de alto impacto. Conheça os cursos da Alura + FIAP Skills & Go: Agentic Engineering, Building AI Products, e AI Data Strategy. Saiba mais sobre o Skills & Go.

Vá para o Vale do Silício com Paulo Silveira, Marcell Almeida, Fabrício Carraro e Marcus Mendes na “Imersão IA Sob Controle e Alura no Vale do Silício“! Vagas limitadas, corra para reservar a sua.

TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões.

#7DaysOfCode: Coloque em prática os seus conhecimentos de programação em desafios diários e gratuitos. Acesse https://7daysofcode.io/

Produção e conteúdo:

• Alura Cursos de Tecnologia – https://www.alura.com.br

Edição e sonorização: Rede Gigahertz de Podcasts