Demis Hassabis propõe órgão independente para controlar IA de fronteira

A proposta foi divulgada em um post no X, segundo reportagem do TechCrunch. Hassabis intitulou o texto da seguinte forma:

"A Framework for Frontier AI and the Dawning of a New Age"

O anúncio chega em meio ao avanço acelerado da IA generativa e ao debate crescente sobre os riscos de sistemas cada vez mais poderosos. Segundo o executivo, a ideia é criar um "standards body" inspirado na Financial Industry Regulatory Authority (FINRA), órgão que regula o setor financeiro nos Estados Unidos.

Essa entidade seria responsável por testar modelos de IA de fronteira e estabelecer boas práticas antes de seu lançamento comercial.

A proposta chega em meio à resistência do governo americano em criar uma regulamentação de IA tradicional pela via executiva.

O que Demis Hassabis propõe para controlar modelos de IA de fronteira

De acordo com a proposta relatada pelo TechCrunch, os laboratórios de fronteira compartilhariam modelos com o órgão de padrões voluntariamente, com até 30 dias de antecedência do lançamento.

Depois que o protocolo de avaliação se mostrasse eficaz e robusto, a formalização poderia vir rapidamente, tornando obrigatório passar pela avaliação para operar no mercado americano:

Hassabis compara essa estrutura a órgãos de supervisão já existentes em outros setores regulados, defendendo uma abordagem baseada em padrões técnicos e avaliações conduzidas por especialistas, em vez de decisões políticas centralizadas.

O modelo proposto se apoiaria nas revisões ad hoc já feitas pelo governo dos Estados Unidos sobre o Mythos, da Anthropic, e o Sol, da OpenAI, processos que enfrentaram críticas por falta de conhecimento técnico e decisões pouco transparentes sobre quando um modelo poderia ser liberado.

Por que modelos de IA de fronteira exigem novos padrões de segurança

O crescimento acelerado da capacidade dos modelos de IA generativa tem levantado preocupações concretas, entre elas o uso malicioso de sistemas avançados, capacidades inesperadas que emergem sem aviso prévio, riscos à segurança cibernética e impactos sociais ainda pouco compreendidos.

Por isso, empresas de IA e pesquisadores independentes têm defendido mecanismos de avaliação mais robustos antes da liberação pública de sistemas de fronteira.

O órgão proposto seria financiado pela própria indústria de IA, mas operaria de forma independente, com apoio institucional do governo americano.

Essa configuração busca equilibrar dois interesses que costumam entrar em conflito: a velocidade de lançamento que move a competição entre laboratórios e a necessidade de rigor técnico nas avaliações, garantindo que a análise de riscos aconteça antes de um sistema chegar ao público.

Como funcionaria um organismo independente para regular IA

Hassabis imagina o órgão composto por representantes de projetos open source e especialistas técnicos vindos da própria indústria, sustentados financeiramente pelos laboratórios de IA.

Parte das avaliações poderia inclusive ser terceirizada para o crescente número de grupos de segurança em IA especializados em riscos específicos, como uso indevido em ciberataques ou manipulação de informação.

A diferença central em relação a uma regulamentação tradicional feita diretamente por governos está no caráter técnico e autorregulado da proposta.

Em vez de agências estatais definindo regras de cima para baixo, o modelo se assemelha a organizações setoriais que já supervisionam mercados complexos, contando com um corpo técnico próprio e financiamento vindo dos regulados.

Na prática, a força dessa abordagem seria o foco técnico aliado ao incentivo à inovação e a comportamentos responsáveis, mantendo o ritmo de evolução do setor e permitindo adaptar os padrões conforme novos riscos fossem identificados.

O impacto da proposta de Demis Hassabis na disputa pela governança da IA

A proposta de Demis Hassabis busca equilibrar inovação tecnológica e redução de riscos por meio de uma autorregulação setorial, alternativa viável diante da resistência do governo americano em criar um regulador federal tradicional nos moldes da FDA.

Caso ganhe tração, a iniciativa pode estabelecer um novo padrão de governança para o setor, impulsionando exigências técnicas compartilhadas entre laboratórios concorrentes sem sufocar a competitividade da indústria de inteligência artificial.

Se interessou pelo tema e quer ouvir mais sobre o assunto? Em nosso canal, Marcus Mendes e Fabrício Carraro debatem sobre essa e outras novidades do mundo Tech:

Quer entender melhor os desafios de segurança da IA?

Acompanhar propostas como a de Demis Hassabis ajuda a entender para onde caminha a governança da inteligência artificial avançada.

Quer se aprofundar em como a IA generativa está evoluindo e como aplicá-la de forma responsável? Vale conhecer a carreira de IA da Alura, que aborda desde fundamentos até aplicações práticas de modelos avançados.