Por que há temor sobre IA acabar com a humanidade e qual o risco real?

Alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão nas últimas semanas por uma ação coordenada para desacelerar o desenvolvimento dessa tecnologia. Declarações de pesquisadores de que a IA pode representar uma ameaça à humanidade acenderam o sinal de alerta, com estimativas de que exista mais de 10% de chance de a tecnologia causar danos extremos.

Empresas gigantes do setor nos Estados Unidos, como a OpenAI e a Anthropic, têm pressionado congressistas americanos a criar regras para o setor. Por outro lado, críticos sugerem que esse movimento por regulamentação por parte das líderes de mercado possa servir para consolidar vantagens sobre concorrentes atuais e futuros.

Por que alguns acham que a IA pode ser uma ameaça?

Pesquisadores afirmam que há sinais preocupantes de que esses sistemas estejam avançando rápido demais. Evan Hubinger, cientista da Anthropic, afirmou publicamente que há mais de 10% de chance de a IA “matar todos os humanos” na próxima década. Ele trabalha com alinhamento de IA, área voltada a incorporar princípios e valores éticos humanos aos sistemas.

Embora Hubinger tenha classificado o risco atual como baixo, suas declarações coincidiram com a saída de outro pesquisador da Anthropic devido a divergências sobre o rumo do desenvolvimento. Jacob Coxon alertou à BBC que os desenvolvedores estariam perdendo o controle sobre a tecnologia e que funcionários estavam genuinamente assustados com a velocidade dos avanços.

Historicamente, o receio de que máquinas inteligentes assumam o controle existe há décadas, sendo citado desde os anos 1950 por Alan Turing. Nos últimos anos, a corrida por lucro e pela chamada superinteligência — sistemas mais inteligentes que os seres humanos — intensificou o debate.

Cenários de risco e contrapontos

Especialistas preocupados com o potencial da IA descrevem cenários em que a tecnologia poderia se aprimorar sem participação humana, além do risco de ser utilizada em espionagem, ataques cibernéticos ou guerra biológica. No entanto, críticos apontam que muitos desses alertas são previsões hipotéticas e exageradas.

Parte dos especialistas defende que o foco deveria recair sobre problemas já concretos, como a criação de deepfakes sem consentimento, desinformação e ampliação de fraudes. Um grupo suprapartidário de políticos britânicos publicou um relatório exigindo novas leis para responder a essas ameaças imediatas.

Propostas de desaceleração e cenário geopolítico

Dario Amodei, da Anthropic, e Sam Altman, CEO da OpenAI, defenderam uma desaceleração no desenvolvimento e a criação de regras, embora tenham esclarecido que isso não significa parar totalmente o treinamento de modelos, mas sim reservar tempo para avaliações de segurança.

Nos Estados Unidos, o presidente Donald Trump minimizou os riscos existenciais da IA, elogiou os benefícios da tecnologia e defendeu que as empresas americanas vençam a chamada “corrida da IA” frente a concorrentes como a China. O Ministério das Relações Exteriores da China, por sua vez, classificou as narrativas de ameaça e competição hostil como infundadas, enquanto defende maior coordenação internacional para a regulação do setor.

Com informações de: BBC Brasil