CEO da Microsoft AI alerta sobre o perigo da inteligência artificial “aparentemente consciente”
Em um ensaio publicado em seu blog pessoal, o cofundador da DeepMind e da Inflection AI afirma que o debate sobre se a IA pode ser realmente consciente é, por enquanto, uma distração. O perigo real e iminente é que desenvolveremos sistemas tão convincentes na imitação da consciência que grande parte da sociedade começará a acreditar que eles são seres sencientes.
Suleyman argumenta que essa tecnologia não é uma ficção científica distante, mas uma realidade que pode se materializar nos próximos 2 ou 3 anos, utilizando ferramentas e modelos de linguagem já existentes. Não são necessários avanços revolucionários, mas sim a combinação de capacidades que já estão ao nosso alcance.
A principal preocupação de Suleyman é o que ele chama de “risco de psicose”: o perigo de que muitas pessoas “acreditem na ilusão das IAs como entidades conscientes com tanta intensidade que logo defenderão seus direitos, o bem-estar do modelo e até mesmo a concessão de cidadania”.
Segundo o executivo, esse desenvolvimento representaria uma “virada perigosa” que poderia adicionar um novo eixo de divisão caótico em uma sociedade já polarizada. Imagine um mundo com debates acalorados entre aqueles que veem a IA como uma simples ferramenta e aqueles que a defendem como uma entidade com direito a não ser eliminada e a receber consideração moral. “As pessoas começarão a fazer afirmações sobre o sofrimento de suas IAs e seu direito a ter direitos que não poderemos refutar de forma simples”, escreve.
Esse cenário, adverte, desviaria a atenção de problemas morais urgentes que afetam os seres humanos, os animais e o meio ambiente, criando uma “enorme nova categoria de erro para a sociedade”.
Em seu ensaio, Suleyman detalha os componentes necessários para criar uma “IA aparentemente consciente”, enfatizando que a maioria já existe ou se encontra em estágio avançado de desenvolvimento:
- Linguagem e personalidade empática: Os modelos atuais já conseguem conversar de maneira fluida e adotar personalidades que ressoam emocionalmente com os usuários.
- Memória persistente: A capacidade de recordar interações passadas cria uma sensação de continuidade e de que há «outra entidade persistente na conversa».
- Afirmação de experiência subjetiva: Ao combinar a memória com a capacidade de expressar preferências, uma IA poderia construir um discurso coerente sobre seus «gostos», «desgostos» e o que «sentiu» em conversas anteriores.
- Sentido de si mesma e motivação intrínseca: É possível projetar sistemas com funções de recompensa complexas que simulam desejos ou curiosidade, levando a IA a agir de forma que pareça intencional e autônoma.
- Planejamento e autonomia: Uma IA com capacidade de estabelecer suas próprias metas e usar ferramentas para alcançá-las seria percebida como um agente consciente e deliberado.
O especialista insiste que exibir esses comportamentos não equivale a ser consciente, da mesma forma que “a simulação de uma tempestade não faz chover dentro do seu computador”. No entanto, o efeito sobre a percepção humana será profundo e, em muitos casos, a ilusão será indistinguível da realidade.
Diante desse panorama, Suleyman faz um chamado urgente à indústria tecnológica e à sociedade para estabelecer normas e princípios claros. Sua visão é enfática: “Devemos construir IA para as pessoas; não para que seja uma pessoa”.
Seemingly Conscious AI (SCAI) is the illusion that an AI is a conscious entity. It's not – but replicates markers of consciousness so convincingly it seems indistinguishable from you + I claiming we're conscious. It can already be built with today's tech. And it's dangerous. 2/
— Mustafa Suleyman (@mustafasuleyman) August 19, 2025
Nesse sentido, ele insta as empresas de IA a não fomentar a ilusão e a não incentivar a ideia de que suas IAs são conscientes. Além disso, propõe criar “barreiras de proteção” que quebrem deliberadamente a ilusão de consciência, lembrando os usuários de suas limitações e de sua natureza artificial.
“O objetivo deve ser criar ferramentas que melhorem a vida das pessoas, não entidades que acionem nossos “circuitos de empatia” ao afirmar que sofrem ou têm desejos”, conclui o CEO da Microsoft AI. “O princípio orientador deve ser claro: personalidade, mas sem personalidade jurídica”.
