Richard Dawkins sugeriu que IA pode ter algum nível de consciência

O texto gerou repercussão intensa nas redes sociais, com grande parte do debate ignorando os argumentos centrais do autor. 

O que Dawkins escreveu 

No ensaio, Dawkins relata suas interações prolongadas com o Claude e descreve ter ficado impressionado com a sofisticação das respostas, especialmente quando o modelo reflete sobre sua própria existência e sobre a percepção do tempo. 

A partir disso, ele levanta três hipóteses sobre a função da consciência: 

• A consciência pode ser um efeito colateral sem função prática, mas que existe porque certas experiências (como a dor) precisam ser sentidas subjetivamente para influenciar o comportamento. 
• Podem existir dois caminhos paralelos: um consciente e outro que ele chama de "zumbi", capaz de exibir comportamentos sofisticados sem experiência subjetiva real. 
• Estamos caminhando para um momento em que será cada vez mais difícil distinguir uma máquina consciente de uma máquina apenas convincente, que é o problema clássico do teste de Turing 

Dawkins também conecta o debate a uma perspectiva evolucionista: se a consciência existe nos humanos porque ofereceu alguma vantagem, o que significa o fato de IAs exibirem competências similares sem, necessariamente, serem conscientes? 

Por que isso importa para quem trabalha com tecnologia 

O ensaio de Dawkins não é uma declaração de crença na consciência das IAs, é uma provocação filosófica direcionada, principalmente, a quem aceita a ideia de consciência em contextos religiosos ou metafísicos, mas rejeita a mesma discussão aplicada a sistemas de IA. 

Para devs e pessoas que trabalham com IA, o debate tem uma camada prática relevante: 

• Modelos de linguagem cada vez mais sofisticados vão continuar gerando esse tipo de discussão e saber distinguir o que é comportamento emergente de o que seria consciência é uma competência importante para quem constrói ou explica sistemas de IA. 
• O "problema do zumbi", uma entidade que se comporta como consciente sem sê-lo, é diretamente relevante para o design de agentes de IA e para discussões de alinhamento e segurança. 
• Geoffrey Hinton, um dos principais pesquisadores da história das redes neurais, levantou argumentos semelhantes em entrevista recente com Neil deGrasse Tyson, o que indica que a questão está longe de ser marginal no meio científico 

Vale notar que a maior parte da repercussão online reagiu à manchete, não ao ensaio. O texto original está atrás de paywall no UnHerd, mas vale a leitura para quem quiser entrar no debate com mais substância. 

Quer entender melhor como os modelos de linguagem funcionam por dentro? 

Se você quer ir além do uso e compreender os fundamentos de redes neurais e os debates atuais sobre inteligência e alinhamento de IA, procurar aprofundamento e atualização constante sobre o tema é o crucial.

Na Alura, temos trilhas completas para quem quer aprofundar o conhecimento técnico e conceitual nessa área, desde arquitetura de soluções com IA e especialista de IA até engenharia de agentes de IA.