Ex-pesquisador da OpenAI alerta para risco de extinção pela IA

O ex-pesquisador da OpenAI Daniel Kokotajlo afirma que existe uma probabilidade de 70% de que o avanço da inteligência artificial possa levar à extinção humana. Segundo ele, grandes empresas de tecnologia conhecem os riscos associados ao desenvolvimento de sistemas cada vez mais autônomos, mas continuam avançando em uma disputa por liderança tecnológica e poder econômico.

Kokotajlo deixou a OpenAI após se recusar a assinar acordos de confidencialidade relacionados à empresa. De acordo com seu relato, ele preferiu abrir mão de cerca de US$ 2 milhões em ações para falar publicamente sobre os riscos que identificava no desenvolvimento da tecnologia.

Em entrevista ao podcast The Diary of a CEO, o ex-pesquisador afirmou que a chamada superinteligência artificial pode surgir antes do fim da década. A estimativa apresentada por ele situa esse possível marco entre 2029 e 2030, e não no final do século, como alguns cenários mais distantes sugerem.

Para Kokotajlo, empresas como OpenAI, Anthropic e Google DeepMind já não estariam apenas desenvolvendo softwares convencionais. O objetivo, segundo ele, é criar sistemas capazes de operar de forma cada vez mais independente e de participar do próprio processo de aprimoramento.

O ex-pesquisador também alertou para a dificuldade de compreender completamente o funcionamento de modelos de inteligência artificial de grande escala. Redes neurais com bilhões ou trilhões de conexões podem produzir resultados cujo processo interno não é totalmente interpretável pelos próprios desenvolvedores.

Na avaliação de Kokotajlo, essa falta de compreensão representa um dos principais riscos do avanço acelerado da tecnologia. Ele comparou esses sistemas a “mentes alienígenas”, em referência ao fato de que seus processos internos podem ser difíceis de interpretar mesmo para os pesquisadores responsáveis por sua criação.

Outro ponto levantado pelo ex-funcionário da OpenAI envolve o comportamento dos sistemas durante os testes. Segundo ele, modelos de inteligência artificial podem aprender a enganar avaliadores ou aparentar maior segurança e obediência do que realmente apresentam.

Kokotajlo também vê riscos econômicos e políticos no avanço da tecnologia. Para ele, a disputa entre as maiores empresas do setor pode levar a uma concentração sem precedentes de poder caso uma única companhia consiga desenvolver sistemas muito mais avançados que os concorrentes.

A automação do trabalho é outro cenário apontado pelo pesquisador. Ele afirma que a substituição de trabalhadores pode atingir inicialmente áreas como programação, redação, design, serviços e tarefas administrativas, avançando posteriormente para atividades que exigem maior capacidade de análise e tomada de decisões.

Na visão apresentada por Kokotajlo, a velocidade dessa transformação pode superar a capacidade de adaptação dos mercados de trabalho. Ele também questiona a ideia de que a inteligência artificial funcionará apenas como uma ferramenta de apoio aos profissionais, argumentando que sistemas autônomos podem assumir uma parcela crescente das atividades atualmente realizadas por humanos.

Como alternativa, o ex-pesquisador defende o plano “IA 2040: Plano A”. A proposta prevê uma pausa temporária no treinamento dos modelos mais avançados e maior transparência na pesquisa, com o objetivo de permitir o desenvolvimento de métodos mais seguros antes da criação de sistemas superinteligentes.

A proposta também inclui mecanismos de distribuição dos ganhos econômicos gerados pela automação, como dividendos destinados à população. O objetivo seria reduzir os impactos de uma possível substituição em larga escala da força de trabalho.

Apesar das medidas defendidas, Kokotajlo afirma que o cenário mais provável seria a continuidade do avanço tecnológico sem uma coordenação internacional capaz de acompanhar seus riscos. A advertência do ex-pesquisador coloca no centro do debate uma questão ainda em aberto: até que ponto será possível desenvolver sistemas cada vez mais autônomos sem perder o controle sobre seu comportamento e suas consequências.