Governança de Inteligência Artificial: fundamentos, riscos e boas práticas

Conceitos e Papel Estratégico - Apresentação do Professor

Apresentando os instrutores

Olá! Bem-vindos ao curso de Fundamentos de Governança de Inteligência Artificial. Meu nome é Alan, sou formado em Economia, tenho MBA em Big Data e Analytics, e estou cursando mestrado em Computação Aplicada. Atualmente, sou gerente de Governança de Dados e, mais recentemente, de Governança de Inteligência Artificial em uma grande seguradora no Brasil. Também gravo alguns conteúdos aqui na Alura.

Audiodescrição: Alan é um homem branco, com cabelo curto castanho e olhos castanhos. Ele veste uma camisa social azul clara e está em um ambiente de escritório, com uma estante de livros ao fundo.

Olá! Meu nome é [Nome do Instrutor], sou instrutor e professor na Pós-Tec na FIAP. Além disso, tenho um filho, o que me traz várias atribuições no dia a dia.

Audiodescrição: Sou uma pessoa branca, com barba e cabelos negros e curtos. Estou vestindo uma camiseta preta e estou no estúdio da FIAP, com um fundo em tom azul.

Iniciando o curso

Espero que gostem deste curso. Vamos começar com o primeiro vídeo.

Conceitos e Papel Estratégico - O que é Governança de IA Definição e objetivos

Introduzindo a importância da governança de IA

Olá, vamos iniciar nosso primeiro vídeo sobre este tema com uma pergunta fundamental: por que precisamos discutir governança de IA agora? A importância desse assunto se deve principalmente ao crescimento acelerado da inteligência artificial. Estamos acompanhando o boom que está ocorrendo, desde o GPT, que revolucionou o mercado, até outras soluções da Google, Microsoft e inúmeras outras empresas que estão inundando o mercado com IA. Empresas de diversos setores, como bancos, seguradoras e grandes varejistas, também estão incorporando essas soluções em seus processos.

Com esse crescimento, aumenta a preocupação em garantir que tudo esteja sob controle, alinhado com a estratégia da empresa e com definições claras. Surgem novos riscos, impactos e responsabilidades. Estamos aqui para discutir governança de IA porque a IA está crescendo rapidamente no mercado, e precisamos acompanhar esse movimento. A governança de IA é orientada para o uso responsável da tecnologia, como mencionado anteriormente, sendo um conjunto de práticas que direciona, controla e monitora o uso da inteligência artificial.

Explicando o papel da governança de IA nas equipes

Quando falamos de IA, não estamos nos referindo apenas à pessoa desenvolvedora. Em uma equipe, temos pessoas desenvolvedoras, especialistas que entendem do negócio e contribuem com conhecimento para que a solução de IA atenda a uma necessidade específica, além da figura responsável pela governança da inteligência artificial. Essa pessoa cria conjuntos de práticas, direciona, controla e monitora o uso da IA. Se deixarmos essa responsabilidade apenas para a pessoa desenvolvedora, ela pode se concentrar apenas em desenvolver projetos sucessivamente, sem se preocupar com padronização ou direcionamento.

A figura da governança de IA se insere nesse ecossistema de forma semelhante à governança de dados, com papéis bastante parecidos. Por isso, como gerente de governança de dados, estou assumindo também a questão de governança de IA, pois os processos, preocupações e visões sobre o negócio são semelhantes. Seja olhando para dados ou IA, ambos são demandados pelo negócio. No final das contas, garantimos que as soluções desenvolvidas por nossa área de dados e inteligência artificial estejam bem controladas e realmente impactem o negócio de nossos clientes.

Destacando a necessidade e os benefícios da governança de IA

Por que a governança de IA é necessária? Sem governança, há um impacto direto no risco. Ao longo do curso, veremos exemplos de como a falta de governança em inteligência artificial pode gerar riscos de reputação e resultados financeiros.

Quando implementamos uma figura de governança de IA com papéis, funções, gestor e equipe, obtemos mais confiança, valor, consistência e reúso nos processos de inteligência artificial e nas soluções. Isso resulta em um impacto significativo no negócio e nos resultados da empresa, pois estamos agindo de maneira organizada, racional e bem estruturada.

Definindo o papel estratégico da governança de IA

A governança de IA entrega o caminho, o fluxo, políticas, controle, diretrizes, papéis e processos. Ela define quem decide, como decide e o que precisa ser controlado. Assim, a governança de IA estabelece o caminho a ser seguido. Por exemplo, se a empresa decide que a IA deve seguir um determinado caminho, é a governança de IA que formaliza isso para toda a companhia.

Trabalhando em uma grande seguradora com milhares de funcionários, observamos diariamente empresas desenvolvedoras de inteligência artificial oferecendo soluções para diversas áreas, como comercial e clientes. É essencial ter uma área de governança de IA para organizar e avaliar essas soluções, decidindo o que pode ser feito internamente e o que realmente precisa ser adquirido.

Diferenciando governança de IA de governança técnica

A governança de IA é diferente de uma governança técnica, pois vai além da tecnologia. Ela considera o negócio, os fundamentos de processos e pessoas, e envolve decisões estratégicas. Governar IA não se resume a configurar modelos; é uma prática organizacional, cultural, estratégica e multidisciplinar. Envolve comunicação com pessoas desenvolvedoras, áreas de negócio e compras, garantindo que novas soluções sejam validadas e que as aquisições sejam realmente necessárias.

Conectando IA ao valor estratégico do negócio

A IA é um ativo estratégico do negócio. Implementar IA é crucial para melhorar a produtividade, otimizar processos e fornecer ferramentas que permitam às pessoas desempenharem melhor suas funções. Empresas que não adotam IA correm o risco de fracassar ou serem adquiridas por outras que o fazem. A governança de IA conecta metas, prioridades e valor para o negócio.

Concluindo e introduzindo o próximo vídeo

No próximo vídeo, discutiremos por que a governança é estratégica e como as organizações que utilizam inteligência artificial atuam. Esperamos que, ao longo desses vídeos, possamos construir juntos a compreensão da importância e atuação da governança de IA. Até lá!

Conceitos e Papel Estratégico - Por que governança é estratégica para organizações que usam IA

Introduzindo a importância da governança de IA

Olá, vamos ao nosso próximo vídeo. Esperamos que, a cada vídeo, consigamos fortalecer a consciência sobre a importância da governança de IA. Começamos pensando na IA como uma alavanca estratégica para os negócios. Já comentamos no vídeo anterior por que a IA é tão importante para as empresas, e, sendo assim, ela necessita de governança. Devemos sempre manter esse comparativo em mente.

Por que a IA é importante para os negócios? Porque ela acelera decisões, automatiza processos e cria vantagens competitivas. A IA deixou de ser um laboratório experimental e pequeno; está cada vez mais presente no dia a dia. Já observamos empresas em que o primeiro nível de atendimento é feito completamente com IA generativa. Muitas vezes, é difícil distinguir se estamos conversando com um robô ou com um humano, pois a tecnologia está cada vez mais avançada, atendendo clientes e resolvendo problemas. Isso é realmente estratégico para os negócios.

Discutindo os riscos da IA sem direção estratégica

A IA direciona os resultados da empresa, permitindo atender muito mais clientes em uma velocidade muito maior, graças à sua potência. Isso tem um impacto significativo nos resultados da empresa, tornando a IA extremamente importante.

Qual é o risco da IA sem direção estratégica? Podemos ter um arsenal de múltiplas opções de IA, mas, se usarmos sem orientação e foco, sem considerar a estratégia da empresa, criaremos um cenário de soluções isoladas. Isso dificulta o aproveitamento e reaproveitamento de componentes ou aprendizados de uma solução para outra, gerando ineficiências nos processos e custos de processamento. Além disso, há o retrabalho, pois, sem direção estratégica, podemos não aproveitar etapas de processos anteriores para criar novos, gerando retrabalho para a estrutura.

Abordando inconsistências e a necessidade de governança

Existem inconsistências quando temos soluções que não se comunicam entre si. Podemos ter uma solução que apresenta uma informação e outra que define algo diferente, o que gera riscos. Quando temos várias soluções implementadas, mas nenhuma delas está alinhada com a estratégia e sem governança, o resultado é um cenário de caos, com soluções isoladas e de alto risco.

Sem governança, cada área cria modelos desconectados, duplicados e conflitantes. Essa mensagem é fundamental. Em empresas com 90 mil ou 5 mil funcionários, imagine cada área de 10 a 15 pessoas, pequenas áreas ou silos dentro da empresa, cada uma com seu direcionamento, desenvolvendo modelos sem considerar o todo. É necessário existir uma área que pense no todo, e essa área é a de governança de Inteligência Artificial (IA).

Explicando o papel da governança na IA

A governança garante o alinhamento ao negócio. Como mencionado anteriormente, a governança é a área que orquestra todas as áreas e soluções de inteligência artificial. Ela organiza e serve ao negócio, permitindo organizar, priorizar e direcionar estratégias, sempre com foco no bem maior, que é o resultado financeiro da empresa e suas metas de crescimento. A governança influencia metas, indicadores, processos e resultados, potencializando-os, pois a inteligência artificial, por si só, tem esse poder. No entanto, se não for organizada e classificada dentro de um ambiente governado, os riscos mencionados anteriormente podem prejudicar as metas da empresa.

Destacando os benefícios de uma IA governada

A inteligência artificial proporciona decisões melhores e mais rápidas. Uma IA governada resulta em decisões mais confiáveis e escaláveis. Quando conseguimos governar, catalogar e disponibilizar para reaproveitamento, influenciamos padrões, papéis e processos, tornando a IA mais sustentável. Para crescer, a IA precisa de ordem, documentação, padrões e controle. A governança é o que habilita a escala com segurança. Sem uma governança forte acompanhando todas as iniciativas, voltamos ao cenário de caos mencionado anteriormente.

Concluindo e introduzindo o próximo vídeo

No próximo vídeo, discutiremos um panorama geral, desafios e oportunidades no ambiente de inteligência artificial e governança de inteligência artificial. Até lá.

Sobre o curso Governança de Inteligência Artificial: fundamentos, riscos e boas práticas

O curso Governança de Inteligência Artificial: fundamentos, riscos e boas práticas possui 98 minutos de vídeos, em um total de 46 atividades. Gostou? Conheça nossos outros cursos de IA para Negócios em Inteligência Artificial, ou leia nossos artigos de Inteligência Artificial.

Matricule-se e comece a estudar com a gente hoje! Conheça outros tópicos abordados durante o curso:

• capitulo