A guerra está se aproximando de uma fronteira que a humanidade talvez não consiga atravessar duas vezes. A ONU e o Comitê Internacional da Cruz Vermelha alertaram que sistemas autônomos poderão selecionar seres humanos como alvos e empregar força sem decisão direta de um operador. António Guterres e Mirjana Spoljaric classificaram esse cenário como uma “linha vermelha moral” e cobraram negociações imediatas para criar proibições e restrições juridicamente vinculantes.

A tecnologia já avança nos conflitos da Ucrânia, de Gaza, do Sudão, do Irã e do Golfo, embora especialistas ainda não confirmem o emprego regular de armas plenamente autônomas. Juridicamente, permanece a obrigação de distinguir combatentes de civis, respeitar proporcionalidade e identificar responsáveis por ataques ilegais. O perigo é justamente este: quanto maior a autonomia da máquina, mais difícil será determinar quem responde por uma morte — o programador, o comandante, o fabricante ou o Estado.