Em um cenário de crescente rivalidade tecnológica e geopolítica, especialistas dos Estados Unidos e da China propuseram a implementação de medidas de segurança para a Inteligência Artificial (IA) que lembram os rigorosos protocolos do setor nuclear. As recomendações, fruto de um diálogo contínuo entre os dois países, buscam mitigar os riscos de escalada de conflitos e acidentes envolvendo sistemas autônomos cada vez mais poderosos, especialmente em contextos militares.
A iniciativa surge da preocupação de que um sistema de IA descontrolado ou mal interpretado possa levar Washington ou Pequim a ter minutos para decidir se um ataque foi deliberado ou acidental. A proposta, que antecede negociações governamentais e uma reunião entre os presidentes Donald Trump e Xi Jinping em setembro de 2026, destaca a urgência de estabelecer “linhas vermelhas” e canais de comunicação claros para a IA, assim como existe para arsenais nucleares.
O que você precisa saber
- Protocolos de segurança nuclear para IA: Especialistas de EUA e China propõem a aplicação de medidas de segurança similares às do setor nuclear para a Inteligência Artificial, visando prevenir conflitos.
- Controle humano essencial: As propostas enfatizam a necessidade de manter o controle humano sobre decisões críticas, como ataques digitais de grande impacto ou o uso de armas nucleares.
- Linha direta para incidentes: Sugere-se a criação de uma linha direta militar exclusiva entre os dois países para incidentes envolvendo sistemas autônomos, para evitar escaladas rápidas.
- Risco de erro de cálculo: A velocidade das ações da IA e a dificuldade em distinguir um acidente de um ataque deliberado são as principais preocupações.
- Rivalidade e cooperação: As propostas indicam uma área de potencial cooperação em meio à intensa disputa tecnológica entre EUA e China, embora ambos os governos permaneçam cautelosos.
O Paralelo Nuclear para a IA
A comparação da segurança da IA com a do setor nuclear não é acidental. Desde a Guerra Fria, as potências nucleares desenvolveram complexos sistemas de controle, comunicação e desescalada para evitar uma catástrofe global. A ideia é aplicar essa mesma lógica à IA, que, em sua forma militar autônoma, pode operar em velocidades e com complexidades que superam a capacidade de resposta humana em tempo real.
Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, são figuras centrais nesse diálogo. Eles participam de um fórum que, desde 2019, tem explorado as interseções entre IA e segurança nacional. As propostas publicadas por eles mostram que a rivalidade tecnológica entre EUA e China vai muito além da disputa por chips e modelos avançados, abrangendo agora a governança de armas e a prevenção de acidentes que possam ser confundidos com ataques.
A Essência do Controle Humano
Um dos pilares das recomendações é o controle humano irrestrito sobre as decisões mais críticas. Sisson defende que apenas seres humanos devem ter autoridade para iniciar ataques digitais com IA contra sistemas de comando e controle nucleares ou infraestruturas estratégicas de outro país. A lógica é clara: um sistema autônomo pode falhar, extrapolar instruções ou ser comprometido, e o país-alvo teria dificuldade em discernir a natureza da ação.
Jiang, por sua vez, propõe limites explícitos para impedir que a IA decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também advoga por uma definição comum de “controle humano significativo” para evitar que ambos os países usem a mesma terminologia para justificar diferentes níveis de autonomia das máquinas. Esse princípio já foi endossado pelos presidentes Joe Biden e Xi Jinping em novembro de 2024, reforçando a ideia de que a autoridade final sobre armas nucleares deve sempre residir em humanos.
A Urgência de uma Linha Direta
A velocidade das operações da IA é um fator crucial. Jiang propôs uma linha direta militar exclusiva entre EUA e China para incidentes envolvendo IA, argumentando que as trocas digitais automatizadas podem se intensificar rapidamente, diminuindo drasticamente o tempo para a intervenção humana. Imagine um cenário onde a IA defensiva de um país responde automaticamente a uma atividade suspeita, e o outro lado interpreta essa reação como um ataque, retaliando antes de entender a situação. Uma linha direta permitiria a comunicação imediata para esclarecer se uma operação de IA foi acidental, não autorizada ou ainda sob investigação, antes que se transforme em uma crise diplomática ou militar de grandes proporções.
No entanto, a eficácia de tais canais de comunicação é questionada por alguns especialistas. Carla Freeman, da Johns Hopkins, por exemplo, aponta para a recusa de autoridades chinesas em atender ligações de seus homólogos norte-americanos durante o incidente do “balão espião” em 2023. A rígida hierarquia da burocracia chinesa e a necessidade de aprovação da alta liderança podem atrasar a comunicação por dias, o que seria inviável em um incidente de IA de rápida escalada.
Entre a Rivalidade e a Cooperação Cautelosa
Embora as propostas da Brookings-Tsinghua não tenham sido formalmente endossadas por ambos os governos, a China já vem incorporando a IA em sua estrutura de controle de armas. O Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável por questões nucleares e de não proliferação, agora inclui a IA como uma área de atuação formal. Shen Jian, embaixador da China para assuntos de desarmamento, já alertou na ONU que a IA militar pode afetar a estabilidade estratégica e aumentar os riscos de erros de cálculo.
Nos EUA, a política de segurança nacional relacionada à IA é mais fragmentada, dividida entre o Conselho de Segurança Nacional, o Departamento de Estado e o Pentágono. Ambos os governos, contudo, demonstram cautela em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. Enquanto Trump já expressou preocupação de que restrições amplas pudessem favorecer a China, Pequim vê muitos dos controles tecnológicos dos EUA como uma tentativa de preservar a liderança norte-americana. Essa tensão entre a necessidade de segurança e o desejo de liderança tecnológica é um desafio central para qualquer acordo futuro.
O que esperar agora
As propostas dos especialistas representam um passo importante na discussão sobre a governança global da Inteligência Artificial, especialmente em seu uso militar. O que muda agora é a formalização de ideias que podem servir de base para as discussões em nível governamental, incluindo a reunião entre Trump e Xi. O leitor deve acompanhar os desdobramentos dessas negociações, pois elas podem moldar o futuro da segurança internacional em uma era dominada pela IA.
Ainda falta confirmar se as propostas serão aceitas e implementadas, e como os dois governos conseguirão equilibrar a necessidade de segurança com a corrida pelo avanço tecnológico. A capacidade de construir confiança e estabelecer canais de comunicação eficazes será crucial para evitar que a IA, uma ferramenta de imenso potencial, se torne um vetor de instabilidade global.
Fontes consultadas
- Fonte 1 informada ao ViralNews pelo sistema de curadoria automatizada
