Governança de IA: estratégias éticas e compliance nas empresas

IA é o novo "must have" das empresas? - Introdução

Apresentando Monica e o tema da inteligência artificial

Olá! Meu nome é Monica.

Audiodescrição: Monica tem cabelos castanhos escuros encaracolados, que estão um pouco abaixo do ombro. Ela usa óculos pretos e uma blusa no tom areia, que vai até o cotovelo. Atrás dela, há uma prateleira com alguns itens decorativos.

Nos últimos anos, provavelmente, ouvimos falar sobre inteligência artificial. As empresas estão cada vez mais reconhecendo o valor dessa tecnologia e buscando utilizá-la ao máximo.

Explorando os riscos e impactos da inteligência artificial

Será que esse uso pode gerar algum tipo de risco? Será que utilizar em todos os produtos, e até mesmo vender produtos que utilizam esse tipo de tecnologia, está em conformidade? Eles podem gerar algum tipo de impacto para a companhia?

Explicando o cenário regulatório e governança em inteligência artificial

Estamos aqui hoje para explicar um pouco sobre o cenário regulatório, quais são as leis, o que tem sido pensado em relação ao tema, quais são as documentações necessárias e, principalmente, fornecer o caminho para construir um programa de governança em inteligência artificial. Vamos juntos?

IA é o novo "must have" das empresas? - Como Chegamos Hoje

Revisando a trajetória histórica da inteligência artificial

Para compreendermos o cenário atual em que a Inteligência Artificial (IA) é amplamente utilizada, é importante revisitar sua trajetória histórica. A IA não surgiu em 2023 ou 2024; na verdade, ela tem mais de 80 anos e foi criada por Alan Turing entre as décadas de 1940 e 1950. A popularização da IA, tornando-a mais acessível a todas as pessoas, ocorreu com o advento da IA generativa em 2023.

Consideremos a experiência do usuário. Por exemplo, uma pessoa advogada, que não necessariamente possui habilidades de desenvolvimento, consegue hoje acessar uma interface de um Large Language Model (LLM) e utilizar a tecnologia de forma intuitiva e sem grandes dificuldades. Essa facilidade de uso é corroborada por uma pesquisa da McKinsey, que destaca como as organizações começaram a acelerar o uso da tecnologia. Observamos que, de 2017 a 2024, as empresas levaram sete anos para adotar a IA clássica em quase 80% de suas operações. No entanto, quando falamos do uso de IA generativa, o cenário é diferente, pois é possível alcançar resultados semelhantes em apenas um ano. Isso reflete a percepção das empresas sobre a IA.

Incentivando o uso corporativo da IA generativa

Atualmente, existem metas corporativas que abrangem toda a organização, incentivando equipes internas a pensarem no uso da tecnologia, especialmente a IA generativa. Esta se torna cada vez mais uma estratégia de negócio, seja para gerar eficiência, lucro ou apoiar na tomada de melhores decisões. Além disso, um estudo específico da Snowflake revela que 90% dos early adopters (primeiros adotantes) de IA generativa nas empresas conseguiram um retorno médio sobre o investimento (ROI) de 41%. Isso significa que, de tudo que foi investido na tecnologia, houve um retorno significativo, o que é um dos grandes desafios quando falamos de IA generativa: alcançar o retorno sobre o investimento (ROI).

Todos estão aprendendo a utilizar a IA generativa em conjunto. Alguns estão mais avançados, outros ainda estão progredindo, mas, ao final, o que executivos e diretores desejam ver é onde a IA gera valor. A pesquisa também indica que, para cada 1 milhão investido, o retorno médio foi de 1,41 milhão, demonstrando que o investimento não é apenas em tecnologia por si só, mas em resultados concretos.

Destacando a importância da proficiência em IA

É importante destacar que cada vez mais diretores, executivos de alto escalão e empresas estão se manifestando publicamente sobre o tema da IA, especialmente a IA generativa. Ao buscar em redes sociais ou em buscadores, encontramos essas declarações. Destacamos alguns pontos principais mencionados nessas declarações: a proficiência em IA. Profissionais precisam saber como lidar com a IA generativa, entender o que é um prompt e a criação de um agente. Esse conhecimento é cada vez mais exigido, assim como já ocorreu com outras ferramentas no passado.

Quando, antigamente, tudo era feito em uma máquina de escrever e passamos a ter um computador para apoiar nisso, a ideia é que os colaboradores saibam utilizar a IA generativa. Outro ponto dentro dessas declarações é sobre o desempenho. Imagine a sua avaliação de performance. Se você estiver utilizando a IA generativa, isso será considerado algo positivo. Você entendeu o valor e que isso deve ser incorporado. Caso contrário, dependerá das lideranças.

Incorporando IA desde o início dos projetos

Cada vez mais, apoia-se a utilização de IA desde o início do projeto, desde o começo do desenvolvimento de um produto. Podemos fazer uma comparação com o conceito de privacy by design (privacidade desde a concepção). Imagine que estamos desenvolvendo um produto que precisa de dados pessoais, como nome ou CPF. Precisamos entender onde ele se encaixa desde o início, desde a concepção. O mesmo se aplica ao lançamento de uma nova funcionalidade ou produto para clientes, ou à criação de um fluxo ou processo interno. Será que conseguimos pensar no uso de IA? Será que, neste ponto, já conseguimos incorporar uma LLM ou, se necessário, outras IAs para gerar ainda mais valor para a companhia? Isso representa uma mudança de pensamento e é um desafio que também tem sido observado no mercado.

Adotando a abordagem "AI first" e "agent first"

Com essas discussões e posicionamentos, existem companhias que já se declaram como AI first (IA em primeiro lugar). Isso significa que tudo será centralizado em IA na empresa. Sempre consideraremos a IA como meio, e todas as soluções devem priorizar a IA. Diversas companhias, incluindo instituições financeiras, já estão se direcionando para esse caminho. Além disso, estamos observando o termo agent first (agente em primeiro lugar). Isso significa que teremos agentes no centro do produto, ou seja, uma interação mediada entre agentes.

Como isso funciona? Imagine que, ao trabalhar com um determinado tema na empresa, como advogada de um produto, é necessário discutir com outro time de marketing responsável pelo lançamento. Não será mais a pessoa advogada que discutirá diretamente. Em vez disso, um agente discutirá com um agente do time de marketing. Quando necessário, a intervenção humana ocorrerá.

Recapitulando a evolução do uso da IA nas empresas

Recapitulando, começamos discutindo sobre o ponto em que as empresas querem utilizar IA, considerando a necessidade de implantar e pensar em processos internos e produtos. Passamos a ter empresas que veem a inteligência artificial como a principal tomadora de decisão. Chegamos a uma evolução em que agentes tomam decisões, e apenas o que realmente necessita de intervenção humana será tratado dessa forma.

Foi uma aula interessante e introdutória. Vamos agora falar de governança. Nos encontramos em breve!

IA é o novo "must have" das empresas? - IA Must Have

Introduzindo a importância da inteligência artificial para empresas

Antes de discutirmos legislações, políticas e procedimentos, é importante entendermos por que a Inteligência Artificial (IA) se tornou um elemento essencial para as empresas.

Por que os níveis hierárquicos e diretores estão cada vez mais interessados em compreender casos de uso? Eles buscam aumentar o investimento nessa área e aprimorar o conhecimento de suas equipes. Vamos explorar mais sobre isso nesta primeira aula?

Sobre o curso Governança de IA: estratégias éticas e compliance nas empresas

O curso Governança de IA: estratégias éticas e compliance nas empresas possui 122 minutos de vídeos, em um total de 48 atividades. Gostou? Conheça nossos outros cursos de IA para Dados em Inteligência Artificial, ou leia nossos artigos de Inteligência Artificial.

Matricule-se e comece a estudar com a gente hoje! Conheça outros tópicos abordados durante o curso:

• IA é o novo "must have" das empresas?
• Regulação de inteligência artificial: o que está acontecendo?
• Do hype à pratica: como estruturar governança de IA?
• Mapeando os riscos no uso de inteligência artificial
• Implementação prática: cultura e ciclo de desenvolvimento