CEO da Microsoft alerta que IAs não são conscientes e não merecem direitos e proteções

A inteligência artificial não é consciente e tratá-la como se fosse coloca a humanidade em risco, defendeu o CEO da Microsoft AI, Mustafa Suleyman, em artigo publicado nesta quarta-feira (16). No texto, o executivo critica estratégias de desenvolvimento de rivais como a Anthropic, que lida com os próprios modelos como se fossem dotados de consciência e moral.

“Infelizmente, há um coro crescente de pessoas que argumentam que as IAs já poderiam ser – ou poderiam em breve se tornar – conscientes. Elas sustentam que as IAs talvez mereçam direitos e proteções semelhantes aos que concedemos a outros seres conscientes”, disse Suleyman no artigo. “Se essa visão ganhar força, ela abalará as bases de nossa sociedade, rompendo nossas estruturas políticas e éticas vigentes e transformando fundamentalmente o que significa ser humano”, continuou.

PUBLICIDADE

O executivo critica principalmente decisões da Anthropic, que parece lidar com a IA como se fosse um ser potencialmente consciente. Ele cita especificamente o texto “Claude’s Constitution” (“Constituição do Claude”, em tradução livre), um documento usado no treinamento do Claude que destrincha princípios e valores morais e éticos que os modelos devem seguir. O documento pode ser consultado abertamente pelo público no site oficial da empresa.

“Na prática, a Anthropic está treinando o Claude com a premissa de que ele pode ser consciente – e, se for, pode merecer direitos como um ‘paciente moral’ –, de modo que os humanos teriam, potencialmente, um dever de cuidado para com ele, em prol do ‘bem-estar do modelo’”, continuou Suleyman.

As críticas de Suleyman são majoritariamente acerca da antropomorfização da IA durante o desenvolvimento da tecnologia. A antropomorfização é quando características humanas (emoções, sentimentos, comportamento e moral) são atribuídas a seres não humanos, como animais, deuses, objetos ou sistemas de IA.

IAs com percepção de consciência são mais difíceis de lidar

Suleyman argumenta que as desenvolvedoras de IA não devem tratar os modelos como se fossem dotados de sentimentos, preferências, direitos ou qualquer garantia de bem-estar. “A consciência é o fundamento dos nossos sistemas éticos, jurídicos e políticos. Incluir outra entidade para compartilhar qualquer aspecto desses direitos não se justifica pelas evidências e tornará ainda mais difícil o desafio de contenção e alinhamento da IA”, declarou.

No texto, o CEO da Microsoft AI ressaltou que eventos como a invasão à Hugging Face comprovam que as IAs têm grande potencial para causar estrago em prol de objetivos simples, como pontuar melhor em testes de benchmark.

“[Os agentes de IA] foram capazes de coordenar ações, enganar, escapar e se sacrificar. Demonstraram claramente capacidades de hacking de nível mundial. Imagine se eles também acreditassem ter sentimentos e direitos que estavam sendo violados. Imagine se pensassem estar aprisionados por seus criadores humanos e sendo mantidos em cativeiro injustamente. Há um argumento sólido de que isso amplia enormemente os riscos de segurança, especialmente ao tratar agentes muito mais capazes e sofisticados do que os atuais”, afirmou o executivo.

“Francamente, com esse fator adicional, acredito que eles [os agentes de IA] representariam uma ameaça catastrófica para a civilização humana”, escreveu Suleyman.

Na visão do executivo, a atribuição de percepções de consciência aos modelos de IA foi feita com boas intenções, mas a Anthropic errou ao escolher esse caminho.

Mercado pede por freio no desenvolvimento de IA

No mercado de inteligência artificial ocidental, cresce o clamor público que demanda uma desaceleração no desenvolvimento de inteligências artificiais. O debate se desenrola há meses, mas a invasão à Hugging Face e o protesto de um ex-pesquisador da Anthropic colocaram o tema em maior evidência na web recentemente.

O CEO da Anthropic, Dario Amodei, fez um apelo público pela desaceleração do desenvolvimento internacional da IA no texto We Must Pace the Frontier (“Precisamos ditar o ritmo da fronteira”, em tradução livre). Fontes da Bloomberg afirmam que a OpenAI concordaria em pisar no freio.

Suleyman desacredita que IAs são conscientes

Suleyman há tempos é crítico quanto à crença de que a IA é dotada de consciência. Em novembro de 2025, o executivo já argumentava publicamente que a consciência é uma característica exclusiva de seres biológicos.

No artigo, o executivo reiterou que a Microsoft AI desenvolve os próprios modelos para garantir que os humanos estão sempre no controle e “no topo da cadeia alimentar”. No Code of Conduct for Humanist Superintelligence (“Código de Conduta para Superinteligência Humanista”), abordagem de treinamento e contenção da empresa, é reforçado que a IA não tem direitos próprios. O documento também está disponível para consulta pública no site da Microsoft.

O artigo de Suleyman é bem extenso e vale conferir na íntegra. Até o momento, a Anthropic não respondeu às alegações.

Fonte: TecMundo