O avanço da inteligência artificial em sistemas militares tem gerado preocupação entre autoridades e especialistas em segurança internacional. Durante o Fórum Xiangshan, realizado em Pequim, participantes alertaram que decisões tomadas de forma acelerada por sistemas de IA podem elevar os riscos de conflito, reduzindo o tempo disponível para que governos compreendam uma situação antes de reagir a ela.
O encontro reuniu cerca de 2 mil militares, diplomatas e acadêmicos de 100 países, em meio a discussões sobre os limites que deveriam ser impostos ao uso militar da inteligência artificial. Adul Boonthumjaroen, ministro da Defesa da Tailândia, afirmou que a competição entre grandes potências não deveria se resumir à busca por maior poder, destacando que “o mundo está em um ponto de inflexão crítico”, com a competição estratégica entre grandes potências se tornando mais evidente e conflitos persistindo em diversas regiões. Já Muhammad Ali, secretário de Defesa do Paquistão, chamou atenção para a velocidade dos avanços tecnológicos, que, segundo ele, estão “comprimindo o cronograma estratégico”.
Risco de escalada por interpretação equivocada
A preocupação não se limita apenas ao ritmo acelerado das decisões. De acordo com a Reuters, especialistas de segurança dos Estados Unidos e da China também debatem como evitar que uma reação automática de sistemas de defesa seja interpretada erroneamente como um ataque deliberado, o que poderia desencadear uma escalada militar indesejada. É justamente nesse contexto que surgem propostas de salvaguardas para o uso da inteligência artificial em contextos militares.
Especialistas que participam de um diálogo entre instituições americanas e chinesas apresentaram propostas que tratam de questões tradicionalmente associadas ao controle de armas, incluindo a criação de uma linha direta de comunicação entre os dois países. Essa linha permitiria que um governo informasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação, evitando assim uma escalada provocada por interpretação equivocada — cenário em que um sistema de defesa automatizado reagiria a uma atividade suspeita e o outro país entenderia essa resposta como um ataque, retaliando antes de compreender o que de fato ocorreu.
Supervisão humana e proteção de infraestruturas críticas
Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, destacou que a autonomia crescente das armas torna mais urgente a necessidade de supervisão humana. “À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou. As propostas apresentadas também incluem proteções para infraestruturas críticas, como energia, finanças e saúde, com o objetivo de evitar que sistemas de inteligência artificial tenham autonomia para executar ações com consequências militares ou estratégicas graves.
Apesar das discussões, China e Estados Unidos ainda divergem sobre como controlar a tecnologia. Pequim inseriu o tema da IA dentro da estrutura do Ministério das Relações Exteriores responsável pelo controle de armas, enquanto Washington distribui a questão entre diferentes órgãos governamentais. Até o momento, nenhum dos dois governos endossou publicamente as propostas apresentadas pelos especialistas, e ambos demonstram preocupação com medidas que possam desacelerar o próprio desenvolvimento tecnológico. A disputa tecnológica entre as duas potências, portanto, permanece diretamente ligada ao debate sobre os limites do uso militar da inteligência artificial.
Com informações de Olhar Digital. Fonte original.