Olá! Seja bem-vindo ao curso de Estruturas e Processos Organizacionais de Governança. Eu sou o Alan, tenho 39 anos, sou graduado em Big Data e estou finalizando meu mestrado em Computação Aplicada, no qual estudo governança de dados. Tenho mais de 20 anos de experiência no mercado, atuo no setor segurador e, atualmente, sou gerente de governança de dados e inteligência artificial.
Audiodescrição: Sou um homem branco, de pele clara, com cabelo e barba curtos e escuros; ao fundo, há uma parede da FIAP com iluminação azul neon.
Eu espero que você goste deste conteúdo, que possamos conversar de forma simples, que você compreenda a mensagem principal que queremos transmitir e que isso motive você a buscar sempre mais neste mercado, que é muito promissor e interessante.
Nos vemos no início do curso. Até lá! [♪]
Olá, bem-vindes. Eu começo com esta mensagem: quando a IA falha, o impacto não é apenas técnico.
Quando isso ocorre, o problema não se limita ao algoritmo. Ele se reflete no atendimento, nas decisões de negócio e na experiência de clientes, que é afetada. Pode gerar animosidade ou uma avaliação baixa no NPS, por exemplo. Surge também na operação, que pode ser prejudicada, gerar retrabalho ou um custo operacional que não esperávamos. Ao final, o mais grave é o impacto na imagem da empresa. Por isso, precisamos ter muito cuidado com esses pontos.
Um dos riscos mais perigosos é o erro com aparência de correto. A IA é muito convincente. Às vezes pedimos uma informação — isso já nos aconteceu diversas vezes: a IA responde com tanta convicção e não lembramos se é exatamente assim. Vamos confirmar. Passamos a pressioná-la, a perguntar, a fazer alguns testes e percebemos que está alucinando, como dizemos no mercado. Está inventando justificativas para parecer coerente e nos entregar uma resposta. Assim, pode produzir respostas muito bem redigidas, porém tecnicamente incorretas. Precisamos manter essa desconfiança e entendemos que, nesse ponto, sempre será uma pessoa quem decide se a decisão é correta, se segue os processos adequados da empresa ou se é tecnicamente correta. Esse é um ponto ao qual devemos prestar muita atenção.
Em um ambiente corporativo, isso pode influenciar decisões reais. Há casos em que pessoas solicitam reembolso de um processo ou de um gasto, sendo que não existe um procedimento X, e a inteligência artificial, por não contar com mecanismos de proteção, acaba orientando a solicitação de um eventual reembolso que não existe. Depois que a empresa, no papel da IA, ou a IA representando a empresa, fornece essa indicação, a empresa precisa cumprir. É esse tipo de atenção que devemos ter em relação a respostas que parecem corretas, mas não são.
Se um modelo aprende com dados enviesados, pode transformar esse viés em processo. Isso é muito preocupante. Sempre dizemos que a inteligência artificial considera dados históricos e, quando isso entra em produção, o impacto começa a ocorrer em maior escala. Imagine que uma decisão equivocada vai alimentando uma base histórica que influencia esse modelo, utilizada para treinar e atualizar o próprio modelo. Dessa forma, cada vez mais dados errôneos e históricos vão sendo incorporados, até o ponto em que a IA perde totalmente o controle e passa, por padrão, a decidir de maneira equivocada para o negócio.
A força da IA, como comentamos, é a escala; porém, a escala também é um perigo por tudo isso que estamos discutindo. Uma regra mal definida, um dado ruim ou mesmo um modelo instável pode afetar milhares de decisões rapidamente. Por isso, a governança de IA precisa estar muito próxima e muito vigilante, para que essas milhares de decisões sejam detectadas o mais rápido possível.
Este é um ponto muito importante que devemos manter no nosso radar quando formos desenvolver ou atuar em uma área de governança de IA. A IA depende de dados. Por isso, qualquer fragilidade em privacidade, segurança ou controle de acesso pode ser ampliada pela escala que a IA proporciona. O uso inadequado de dados pode gerar risco geral e perda de confiança. Assim, a empresa pode sofrer impacto em um processo específico, de forma economicamente controlada, mas o impacto que esse processo gera na imagem da empresa pode sair do controle, afetar a cotação no mercado e influenciar decisões de clientes futuros. Tudo isso é muito prejudicial.
Um modelo que funciona bem hoje pode não funcionar bem amanhã. Existe o tema de drift (deriva) dos modelos; precisamos estar sempre atentos. O comportamento das pessoas clientes muda, e isso pode não ser percebido pelos modelos. Precisamos, portanto, de revisão e acompanhamento contínuos. O mercado muda, os dados mudam; podem passar a ser ingeridos na base de dados de forma diferente daquela utilizada no treinamento do modelo, o que pode causar alterações nas decisões. Tudo isso necessita de monitoramento; sem esse monitoramento, o modelo se degrada, perde precisão e pode se tornar mais prejudicial do que um processo manual, pois teremos decisões em grande escala que já não correspondem à realidade. Isso é muito perigoso para a empresa.
Um grande problema é a IA sem responsável definido. A IA não pode ficar sem uma pessoa responsável. Quando algo sai errado na empresa, é necessário saber quem responde, quem corrige e quem tem autoridade para interromper ou ajustar o uso. Devemos tratar esse ponto sempre com nossas lideranças e com as pessoas executivas da empresa: soluções e projetos de IA precisam ter responsabilidade no negócio. O negócio deve assumir essa responsabilidade, com uma pessoa que represente esse processo junto às equipes técnicas e que também atue em caso de um problema eventual. Esse é um ponto básico para uma estrutura organizacional que permita que soluções de IA utilizem sua escala e beneficiem a empresa. Deve haver responsabilidade.
Muitos impactos negativos da IA são previsíveis: viés, erro, exposição de dados, degradação e falta de responsabilidade. Tudo isso pode afetar a organização e deve ser tratado com governança. A questão é atuar antes do dano. Devemos antecipar esses erros previsíveis; o impacto negativo previsível precisa ser governado. Situações que não estão sob controle ou que não são previsíveis eventualmente ocorrem, mas, em uma empresa organizada, que implementa todos os controles e alertas possíveis e que atribui responsabilidades ao negócio e às equipes técnicas, tende-se a evitar em grande medida os erros ou danos que a IA possa causar.
Eu espero que você tenha gostado deste vídeo; ele começará a formar um raciocínio na sua cabeça. Eu acredito que estes vídeos, junto com os vídeos de cursos anteriores, formarão uma pessoa profissional de governança de IA muito bem preparada para atuar no mercado. Nos vemos nos próximos vídeos. Até mais.
O curso Governança de IA: estruturar controles e mitigar riscos em escala possui 142 minutos de vídeos, em um total de 42 atividades. Gostou? Conheça nossos outros cursos de IA para Produto & Negócio em Inteligência Artificial, ou leia nossos artigos de Inteligência Artificial.
Matricule-se e comece a estudar com a gente hoje! Conheça outros tópicos abordados durante o curso:
O Plano Plus evoluiu: agora com Luri para impulsionar sua carreira com os melhores cursos e acesso à maior comunidade tech.
2 anos de Alura
Matricule-se no plano PLUS 24 e garanta:
Jornada de estudos progressiva que te guia desde os fundamentos até a atuação prática. Você acompanha sua evolução, entende os próximos passos e se aprofunda nos conteúdos com quem é referência no mercado.
Back-end, Dados, Front-end, DevOps, Mobile, Gestão & Negócios, UX & Design, Cibersegurança, Cloud, Inteligência Artificial
Formações com mais de 1500 cursos atualizados e novos lançamentos semanais, em Programação, Inteligência Artificial, Front-end, UX & Design, Data Science, Mobile, DevOps e Inovação & Gestão.
A cada curso ou formação concluído, um novo certificado para turbinar seu currículo e LinkedIn.
Acesso à inteligência artificial da Alura.
No Discord, você participa de eventos exclusivos, pode tirar dúvidas em estudos colaborativos e ainda conta com mentorias em grupo com especialistas de diversas áreas.
Catálogo de tecnologia para quem é da área de Marketing
Faça parte da maior comunidade Dev do país e crie conexões com mais de 120 mil pessoas no Discord.
Acesso ilimitado ao catálogo de Imersões da Alura para praticar conhecimentos em diferentes áreas.
Explore um universo de possibilidades na palma da sua mão. Baixe as aulas para assistir offline, onde e quando quiser.
20% de desconto na Pós Tech
Luri Vision chegou no Plano Pro: a IA da Alura que enxerga suas dúvidas, acelera seu aprendizado e conta também com o Alura Língua que prepara você para competir no mercado internacional.
2 anos de Alura
Todos os benefícios do PLUS 24 e mais vantagens exclusivas:
Acesso ao catálogo da Casa do Código e leitura dentro da plataforma
Chat, busca, exercícios abertos, revisão de aula, geração de legenda para certificado.
Modo entrevista - Pratique situações reais e evolua com feedback personalizado
Envie imagens para a Luri e ela te ajuda a solucionar problemas, identificar erros, esclarecer gráficos, analisar design e muito mais.
Aprenda um novo idioma e expanda seus horizontes profissionais. Cursos de Inglês, Espanhol e Inglês para Devs, 100% focado em tecnologia.
Para quem quer atingir seus objetivos mais rápido: Luri Vision ilimitado, vagas de emprego exclusivas e mentorias para acelerar cada etapa da jornada.
2 anos de Alura
Todos os benefícios do PRO 24 e mais vantagens exclusivas:
Lives CareerUp: eventos exclusivos com foco em empregabilidade e carreira
Mentorias de carreira: 2 encontros individuais com mentores do Talent Lab
Conecte-se ao mercado com mentoria individual personalizada, vagas exclusivas e networking estratégico que impulsionam sua carreira tech para o próximo nível.
