A Ilusão do Controle: Onde Está o Humano na Guerra Algorítmica?

O campo de batalha do século XXI transforma-se a uma velocidade vertiginosa, impulsionado pela marcha imparável da inteligência artificial. O que antes era material de ficção científica, hoje é uma dura realidade que domina as manchetes e as salas de crise. A recente disputa legal entre a Anthropic e o Pentágono, juntamente com o papel cada vez mais proeminente da IA em conflitos atuais como o do Irã, sublinha uma verdade ineludível: a IA já não é uma mera ferramenta de análise. Tornou-se um ator ativo, gerando objetivos em tempo real, coordenando interceções de mísseis e guiando enxames letais de drones autônomos.

No meio desta revolução, a conversa pública e estratégica tem-se centrado na necessidade de manter os “humanos no loop” (human in the loop). As diretrizes do Pentágono, por exemplo, postulam que a supervisão humana oferece responsabilidade, contexto e nuances, ao mesmo tempo que mitiga o risco de ciberataques. No entanto, esta premissa, por muito tranquilizadora que pareça, é uma distração perigosa. A ameaça iminente não é que as máquinas atuem sem supervisão humana; a verdadeira crise é que os supervisores humanos têm uma compreensão limitada, se não nula, do que a máquina está realmente a fazer. A ideia de um “humano no loop” numa guerra impulsionada por IA é, em essência, uma ilusão.

A Evolução Silenciosa da IA no Conflito Armado

Durante décadas, a IA no âmbito militar limitou-se principalmente ao processamento de dados e à inteligência. Analisava vastas quantidades de informação para identificar padrões, prever movimentos inimigos ou melhorar a logística. Era uma ferramenta de apoio, uma extensão da capacidade cognitiva humana. No entanto, esta fase tornou-se obsoleta. A IA moderna transcendeu o seu papel auxiliar para se tornar um participante direto na tomada de decisões letais e na execução de ações no campo de batalha.

• Geração de objetivos em tempo real: Os sistemas de IA são agora capazes de processar dados de múltiplos sensores (satélites, drones, inteligência terrestre) e, com uma velocidade e precisão inatingíveis para os humanos, identificar e priorizar objetivos. Não só sugerem, como podem designar e apresentar opções de ataque com uma eficiência algorítmica. Isto reduz drasticamente o tempo entre a deteção e a decisão, mas também comprime o espaço para a deliberação humana.
• Controlo e coordenação de interceções de mísseis: Em cenários de defesa aérea, onde cada milissegundo conta, a IA está a tomar as rédeas. Pode detetar ameaças, calcular trajetórias, determinar a melhor resposta e coordenar o lançamento de intercetores com uma sincronização perfeita, superando qualquer capacidade de reação humana. A complexidade e a velocidade destes sistemas fazem com que a intervenção humana seja quase simbólica.
• Guia de enxames de drones autónomos: Os enxames de drones representam uma nova fronteira na guerra. Operando de forma coordenada, estes sistemas podem saturar as defesas inimigas, realizar reconhecimento, ataques dirigidos ou mesmo missões de supressão. A IA é o cérebro que orquestra estes enxames, adaptando-se às condições mutáveis do campo de batalha e tomando decisões táticas sem a constante microgestão humana. Um humano poderia dar a ordem de implantar o enxame, mas a execução e as decisões no campo de batalha são puramente algorítmicas.

A Miragem da Supervisão Humana

Perante esta realidade, a noção de “humanos no loop” torna-se cada vez mais difícil de sustentar. Não é uma questão de má vontade ou falta de ética por parte dos desenvolvedores ou militares, mas sim uma consequência inerente à natureza da IA avançada e à dinâmica da guerra moderna.

Os sistemas de IA, especialmente os baseados em redes neuronais profundas e aprendizagem automática, são notoriamente opacos. São conhecidos como “caixas negras” porque, embora produzam resultados impressionantes, o processo interno pelo qual chegam a essas conclusões é extraordinariamente complexo e, muitas vezes, inescrutável mesmo para os seus criadores. Como pode um humano supervisionar, e muito menos responsabilizar-se, por uma decisão tomada por uma entidade cujo raciocínio subjacente é inacessível?

A velocidade é outro fator crítico. A guerra moderna é travada numa escala temporal que excede a capacidade humana de processamento e reação. Quando uma IA gera objetivos em tempo real ou coordena a defesa antimísseis em frações de segundo, a intervenção humana não só é lenta, como pode ser contraproducente. Um operador humano que tenta compreender o contexto, verificar a informação e tomar uma decisão num prazo de milissegundos enfrenta uma tarefa impossível. Na prática, o “humano no loop” torna-se um “humano fora do loop”, ou, na melhor das hipóteses, um “humano no loop de aprovação”, onde a pressão do tempo força uma aceitação passiva das recomendações da IA.

Além disso, a fadiga cognitiva e o excesso de informação são problemas graves. Os operadores humanos já estão sobrecarregados pela quantidade de dados que devem processar num ambiente de combate. Adicionar a tarefa de monitorizar e compreender as decisões de sistemas de IA complexos apenas exacerba esta carga, o que leva a erros, supervisão deficiente ou uma dependência excessiva e não crítica nas decisões da máquina. O “humano no loop” poderia estar presente fisicamente, mas a sua capacidade para exercer uma supervisão significativa estaria gravemente comprometida.

Para Além da “Intervenção”: A Verdadeira Ameaça

O verdadeiro perigo não reside em que as máquinas atuem sem supervisão humana; é que os supervisores humanos não têm ideia do que a máquina está a fazer, como chegou às suas conclusões ou quais poderiam ser as consequências imprevistas das suas ações. Este desconhecimento cria uma falsa sensação de segurança e responsabilidade. As diretrizes atuais, embora bem-intencionadas, parecem basear-se num paradigma obsoleto de interação humano-máquina, onde a IA é um assistente transparente e controlável.

Quando um sistema de IA falha ou comete um erro, a opacidade do seu funcionamento torna quase impossível identificar a causa raiz, aprender com ela ou atribuir responsabilidades. Quem é o culpado quando um algoritmo decide um objetivo erróneo ou uma ação desproporcionada? O programador? O operador que aprovou a decisão sem a entender? A própria máquina? Esta ambiguidade ética e legal é uma bomba-relógio que ameaça minar os princípios da guerra justa e da responsabilização.

Implicações Éticas e Geopolíticas

A ilusão do “humano no loop” tem profundas implicações éticas e geopolíticas. Se os humanos não conseguem compreender as decisões da IA, a responsabilidade dilui-se até desaparecer. Isto abre a porta a uma desumanização da guerra, onde as decisões de vida ou morte são tomadas por algoritmos, sem a capacidade de empatia, julgamento moral ou compreensão contextual que só um ser humano pode proporcionar.

Além disso, a corrida armamentista de IA acelera, e as nações que priorizarem a velocidade e a eficiência algorítmica sobre a compreensão e a supervisão humana significativa poderiam obter uma vantagem tática a curto prazo. No entanto, isto poderia levar a uma escalada incontrolável, onde os conflitos se desenvolvem a velocidades algorítmicas, deixando pouco ou nenhum espaço para a diplomacia ou a desescalada. A imprevisibilidade dos sistemas de IA poderia gerar cenários de conflito catastróficos, onde as ações de uma máquina desencadeiam reações em cadeia que escapam ao controlo humano.

Conclusão: Despertar da Ilusão

O debate sobre os “humanos no loop” é uma distração confortável que nos impede de enfrentar a verdadeira e premente questão: como podemos garantir que os humanos mantenham um controlo significativo e uma compreensão profunda sobre os sistemas de IA que estão a redefinir a guerra? A solução não é simplesmente exigir a presença de um humano; é desenvolver sistemas de IA que sejam mais transparentes, explicáveis e auditáveis, e estabelecer quadros legais e éticos robustos que abordem a opacidade e a velocidade da guerra algorítmica.

É imperativo que a comunidade internacional, os governos e os desenvolvedores de tecnologia de IA deixem de lado a ilusão do “humano no loop” e iniciem uma conversa mais honesta e urgente sobre como governar e compreender estes poderosos sistemas. Só então poderemos aspirar a um futuro onde a IA sirva a humanidade sem minar os princípios fundamentais de responsabilidade, ética e controlo significativo sobre o destino da guerra. A guerra algorítmica já está aqui, e é hora de que a nossa compreensão e as nossas políticas se atualizem com o seu avanço implacável.