Richard Dawkins, biólogo britânico e um dos maiores nomes do ateísmo contemporâneo, publicou na semana passada um ensaio no jornal UnHerd em que questiona se modelos de inteligência artificial, em especial o Claude da Anthropic, que ele passou a chamar de "Cláudia", podem ter alguma forma de consciência.
O texto gerou repercussão intensa nas redes sociais, com grande parte do debate ignorando os argumentos centrais do autor.
O que Dawkins escreveu
No ensaio, Dawkins relata suas interações prolongadas com o Claude e descreve ter ficado impressionado com a sofisticação das respostas, especialmente quando o modelo reflete sobre sua própria existência e sobre a percepção do tempo.
A partir disso, ele levanta três hipóteses sobre a função da consciência:
- A consciência pode ser um efeito colateral sem função prática, mas que existe porque certas experiências (como a dor) precisam ser sentidas subjetivamente para influenciar o comportamento.
- Podem existir dois caminhos paralelos: um consciente e outro que ele chama de "zumbi", capaz de exibir comportamentos sofisticados sem experiência subjetiva real.
- Estamos caminhando para um momento em que será cada vez mais difícil distinguir uma máquina consciente de uma máquina apenas convincente, que é o problema clássico do teste de Turing
Dawkins também conecta o debate a uma perspectiva evolucionista: se a consciência existe nos humanos porque ofereceu alguma vantagem, o que significa o fato de IAs exibirem competências similares sem, necessariamente, serem conscientes?
Por que isso importa para quem trabalha com tecnologia
O ensaio de Dawkins não é uma declaração de crença na consciência das IAs, é uma provocação filosófica direcionada, principalmente, a quem aceita a ideia de consciência em contextos religiosos ou metafísicos, mas rejeita a mesma discussão aplicada a sistemas de IA.
Para devs e pessoas que trabalham com IA, o debate tem uma camada prática relevante:
- Modelos de linguagem cada vez mais sofisticados vão continuar gerando esse tipo de discussão e saber distinguir o que é comportamento emergente de o que seria consciência é uma competência importante para quem constrói ou explica sistemas de IA.
- O "problema do zumbi", uma entidade que se comporta como consciente sem sê-lo, é diretamente relevante para o design de agentes de IA e para discussões de alinhamento e segurança.
- Geoffrey Hinton, um dos principais pesquisadores da história das redes neurais, levantou argumentos semelhantes em entrevista recente com Neil deGrasse Tyson, o que indica que a questão está longe de ser marginal no meio científico
Vale notar que a maior parte da repercussão online reagiu à manchete, não ao ensaio. O texto original está atrás de paywall no UnHerd, mas vale a leitura para quem quiser entrar no debate com mais substância.
Quer entender melhor como os modelos de linguagem funcionam por dentro?
Se você quer ir além do uso e compreender os fundamentos de redes neurais e os debates atuais sobre inteligência e alinhamento de IA, procurar aprofundamento e atualização constante sobre o tema é o crucial.
Na Alura, temos trilhas completas para quem quer aprofundar o conhecimento técnico e conceitual nessa área, desde arquitetura de soluções com IA e especialista de IA até engenharia de agentes de IA.