Existem armas autônomas letais; Elas devem ser banidas
Na foto de abertura, drones de ataque autônomo de asa rotativa UAV Kargu, retratados no campus do OSTIM Technopark em Ancara, Turquia, em junho de 2020
Pode não ser tarde demais para colocar o gênio dos malévolos “Slaughterbots” de volta na garrafa, se o mundo agir agora
Por Stuart Russell, Anthony Aguirre, Emilia Javorsky e Max Tegmark
Um futuro assustador que alguns disseram que não chegaria por muitos anos, na verdade, já está aqui. De acordo com um relatório recente da ONU, um ataque aéreo de drone na Líbia na primavera de 2020 – feito contra as forças do Exército Nacional da Líbia por drones STM Kargu-2 de fabricação turca em nome do Governo de Acordo Nacional da Líbia – foi conduzido por sistemas de armas sem humanos “no circuito”.
Em outras palavras, a linha vermelha da seleção autônoma de alvos humanos agora foi cruzada.
Até onde sabemos, este relatório oficial das Nações Unidas marca o primeiro caso de uso documentado de um sistema de arma autônomo letal semelhante ao que foi chamado em outro lugar de “Slaughterbot”. Acreditamos que este é um momento marcante. Organizações da sociedade civil, como a nossa, defenderam anteriormente um tratado preventivo que proíbe o desenvolvimento e uso de armas autônomas letais, assim como as armas cegantes foram proibidas preventivamente em 1998. A janela para a preempção já passou, mas a necessidade de um tratado é mais urgente do que nunca.
O STM Kargu-2 é um quadricóptero voador que pesa apenas 7 kg, está sendo produzido em massa, é capaz de direcionamento totalmente autônomo, pode formar enxames, permanece totalmente operacional quando o GPS e links de rádio estão bloqueados e está equipado com software de reconhecimento facial para atacar humanos. Em outras palavras, é um Slaughterbot.
O relatório da ONU observa: “Comboios logísticos e em retirada [Forças Afiliadas de Haftar] foram posteriormente caçados e remotamente engajados por veículos aéreos de combate não tripulados ou sistemas de armas autônomas letais, como o STM Kargu-2 (ver Anexo 30) e outras munições vagantes. Os sistemas de armas autônomas letais foram programados para atacar alvos sem exigir conectividade de dados entre o operador e a munição.” O anexo 30 do relatório mostra evidências fotográficas do sistema STM Kargu-2 abatido.
Em um esforço anterior para identificar áreas de consenso para proibição, reunimos especialistas com uma variedade de pontos de vista sobre armas autônomas letais para pensar em um caminho a seguir. Publicamos as conclusões acordadas em “Um Caminho para o Regulamento de Armas Autônomas Razoáveis”, que sugeria uma “moratória limitada no tempo para o desenvolvimento, implantação, transferência e uso de sistemas de armas autônomas letais antipessoal” como primeiro e mínimo absoluto, passo para regulamentação.
Uma recente declaração de posição do Comitê Internacional da Cruz Vermelha sobre sistemas de armas autônomos concorda. Afirma que “o uso de sistemas de armas autônomos para atingir seres humanos deve ser descartado. Isso seria melhor alcançado através de uma proibição de sistemas de armas autônomos que são projetados ou usados para aplicar força contra pessoas.” Esse sentimento é compartilhado por muitas organizações da sociedade civil, como a Article 36, organização de defesa sediada no Reino Unido, que recomenda que “Uma estrutura eficaz para regulamentação legal internacional proibiria certas configurações, como sistemas que visam as pessoas”.
A questão dos “Slaughterbots”
Em 2017, o Future of Life Institute, que representamos, lançou um vídeo de quase oito minutos intitulado “Slaughterbots” (assista no final da matéria) – que foi visto por cerca de 75 milhões de pessoas online – dramatizando os perigos das armas autônomas letais. Na época do lançamento, o vídeo recebeu elogios e críticas. O artigo do IEEE Spectrum de Paul Scharre, de dezembro de 2017, “Por que você não deveria temer os Slaughterbots”, argumentou que os “Slaughterbots” eram “muito ficção científica” e uma “peça de propaganda”. Em uma reunião de novembro de 2017 sobre armas autônomas letais em Genebra, Suíça, o embaixador russo na ONU também teria rejeitado, dizendo que tais preocupações estavam 25 ou 30 anos no futuro. Abordamos essas críticas em nosso artigo – também para o Spectrum – intitulado “Por que você deveria temer os Slaughterbots – uma resposta”. Agora, menos de quatro anos depois, a realidade nos mostra o caso: a era dos Slaughterbots parece ter começado.
Produzimos o filme “Slaughterbots” para educar o público e os legisladores sobre os perigos iminentes em potencial de sistemas de armas autônomas letais, pequenos, baratos e onipresentes. Além da questão moral de entregar decisões de vida e morte a algoritmos, o vídeo apontou que as armas autônomas irão, inevitavelmente, se transformar em armas de destruição em massa, precisamente porque não requerem supervisão humana e, portanto, podem ser implantadas em grande número. (Um ponto relacionado, a respeito da agilidade tática de tais plataformas de armas, foi feito no Spectrum no em um artigo de Natasha Bajema.) Além disso, como as armas pequenas, os drones autônomos como armas proliferarão facilmente no mercado internacional de armas. Como o epílogo do vídeo “Slaughterbots” explicou, todas as tecnologias de componentes já estavam disponíveis e esperávamos que os militares começassem a usar essas armas muito em breve. Essa previsão estava essencialmente correta.
Nos últimos anos, assistimos a uma série de reportagens na mídia sobre testes militares de enxames (swarms) cada vez maiores de drones e uso de armas no campo de batalha com funções cada vez mais autônomas. Em 2019, o então secretário de Defesa Mark Esper, em uma reunião da Comissão de Segurança Nacional de Inteligência Artificial, observou: “Enquanto falamos, o governo chinês já está exportando alguns de seus drones aéreos militares mais avançados para o Oriente Médio”.
“Além disso”, acrescentou Esper, “os fabricantes de armas chineses estão vendendo drones anunciados como capazes de total autonomia, incluindo a capacidade de conduzir ataques letais contra alvos”.
Embora a China tenha entrado no negócio de exportação de drones autônomos, outros produtores e exportadores de sistemas de armas altamente autônomos incluem Turquia e Israel. Pequenos sistemas de drones evoluíram de serem limitados a serem semiautônomos e de emprego anti-material, para possuírem modos operacionais totalmente autônomos equipados com sensores que podem identificar, rastrear e alvejar humanos.
A vantagem decisiva do Azerbaijão sobre as forças armênias no conflito de Nagorno-Karabakh em 2020 foi atribuída ao seu arsenal de “drones suicidas” kamikaze baratos. Durante o conflito, foi relatado o uso do Orbiter 1K israelense e do Harop, que são munições que se autodestroem com o impacto. Essas armas são desdobradas por um humano em uma região geográfica específica, mas, em última análise, elas selecionam seus próprios alvos sem intervenção humana.
O sucesso do Azerbaijão com essas armas forneceu um precedente convincente de como sistemas baratos e altamente autônomos podem permitir que militares sem uma força aérea avançada possam competir no campo de batalha. O resultado foi um aumento na demanda mundial por esses sistemas, já que o preço da superioridade aérea caiu drasticamente. Embora os sistemas usados no Azerbaijão estejam indiscutivelmente a uma atualização de software da autonomia contra humanos, seu uso pretendido descrito foi principalmente alvos materiais, como sistemas de radar e veículos.
Se, ao que parece, a era dos Slaughterbots chegou, o que o mundo pode fazer a respeito? O primeiro passo deve ser uma moratória imediata sobre o desenvolvimento, implantação e uso de armas autônomas letais que visam as pessoas, combinada com um compromisso de negociar um tratado permanente. Também precisamos de acordos que facilitem a verificação e aplicação, incluindo restrições de projeto em armas pilotadas remotamente que evitem a conversão de software para operação autônoma, bem como regras da indústria para prevenir armamentos ilícitos em grande escala de drones civis.
Não queremos nada mais do que nosso vídeo “Slaughterbots” se tornar apenas um lembrete histórico de um caminho horrendo não percorrido – um erro que a raça humana poderia ter cometido, mas não o fez.
FONTE: IEEE Spectrum
A matéria está falando da Libia em maio de 2020. A mais de um ano. Isto já deve estar mais avançado e mais países devem estar investindo nisto. O assustador mesmo é que não temos nenhum drone armado, de nenhum tipo. Não sabemos nem como isto funciona. Muito menos estes de menor porte, baratos, que podem ser usados em enxames. Se não sabemos como combater os drones de maior porte, imaginem uma arma dessas aí. A cada ano que passa a nossa distância tecnológica em relação aos demais países só aumenta e por consequência nossa capacidade de nos defender só… Read more »
Podiam reduzir o orçamento para o nível regional, gastar como potência europeia e ter forças compatíveis apenas com republiquetas da América do Sul é triste.
Tem republiquetas sulamericanas com orçamento menor que o nosso e mais bem equipados que nós.
Exemplos: Venezuela, Chile, Peru e Colombia.
Todos os outros países da America do Sul somados, gastam menos que o Brasil sozinho em defesa. O que só corrobora o que comentou
Venezuela, Chile, Peru e Colômbia são mais equipados que o Brasil? Agora conta a do papagaio.
Esse Super Trunfo não dá.
Se for comparar com orçamento de cada país é sim e bem mais .
https://tvuol.uol.com.br/video/fazenda-da-academia-da-forca-aerea-e-modelo-de-producao-em-pirassununga-n-04028D983370D0A15326
Sabe como posso comprar a Faysca?
Então, pela sua lógica, se nenhum país da região comprar um porta-aviões ou submarino nuclear, porquê nos queremos?
E cadê os nossos sistemas de mísseis anti-aéreos de médio e longo alcance? Tem uns três países da região com tais sistemas a pelo menos 10 ou 20 anos.
Bom, então deveriam parametrizar pela Guiana Francesa.
Pessoa joga muito video game.
Além de considerarem nossos vizinhos, consideram quais nações realmente tem condições de nos atacar e quais as possibilidades disso.
Agora eu só queria entender por que nos temos que esperar o nosso vizinho começar a operar, para só então nos fazermos o mesmo ?
Eu acho muito melhor nos começarmos a operar, para então nossos vizinhos fazerem o mesmo, acho mais racional.
Pioneirismo !!!!
Camarada, nós Brasileiros somos a potência regional da América Latina, então não podemos esperar passivamente que outros adquiram para nós abrirmos o olho. O futuro já chegou e o conflito armênio/Azerb provou isso, nós somos os mais fortes da região, como vc mesmo disse, e temos que buscar equipamentos inovadores que atendam as necessidades atuais, pois infelizmente nosso Exército e creio que as outras forças tbm, utilizam bases sólidas ainda da segunda guerra, e os Turcos por estarem em um ambiente volátil e serem a potência regional daquele local já perceberam isso e estão se inovando cada vez mais. Por… Read more »
Oque é uma vergonha né .
Bom, existe uma questão bem séria que realmente precisa ser discutida.
Porém na conjuntura atual, com sanções e guerras comercias pra todo lado acho muito difícil conseguir um acordo amplo suficiente pra que valha a pena.
Concordo totalmente que podem ser um novo tipo de arma de destruição em massa, e talvez isso seja crie uma situação de paz armada mais pra frente em substituição ou paralelamente aos arsenais nucleares.
Como eu sempre digo, não faz muito sentido trocar tiro com uma máquina, se essa camada tecnológica cair o conflito em si perde sentido.
Estes drones cada vez mais baratos, em tamanhos menores e muito dificeis de serem detectados, mudam completamente a maneira de se fazer guerra. Principalmente no que se refere a infantaria e equipamentos outros caríssimos que podem ser facilmente abatidos/tirados de serviço por armamentos muito mais baratos, mais eficazes e com custo humano e material infinitamente inferior. Se o controle do espaço aéreo é o que há de mais importante em um conflito desde a invenção do avião, este controle passou a ter um valor muito maior. Se é que dá para controlar efetivamente o espaço aéreo com estes drones quase… Read more »
Não são diferentes das minas terrestres, apenas voam e podem atacar longe. Qual o critério para se proibir ou não uma arma na guerra?
Os nossos militares estão presos na guerra fria.
Outro ponto que prejudica nosso salto tecnológico e de desenvolvimento nesta áerea de drones armados, é de termos vizinhos miseráveis, que não oferecem perigo algum a nossa soberania.
Se tivéssemos Irã, Paquistão, Turquia ou grupos separatistas relevantes, sempre nos atacando, com certeza a turma do vinho e do caviar já tinha se movimentado neste sentido.
“Antunes 1980
Visitante
1 dia atrás
Os nossos militares estão presos na guerra fria.”
Na realidade o nosso país se encontra preso na República Velha do início do século 20…O país se encontra estagnado desde essa época, pois a sociedade é presa nesse sistema dessa época até hoje…
Perfeita análise, com exceção do fato que na guerra fria quem está presa é a Rússia, nós estamos muito aquém disso…. E aos ufanistas que duvidam basta pegar um manual de campanha de qualquer uma das armas do Exército, Organização preparo e emprego, ver se temos disponibilidade de mísseis, ver se temos artilharia antiaérea (digo real AAAe e não mísseis igla/rbs e obsoleto gepard), cavalaria moderna e disponível, rádios e equipamentos de guerra eletrônica de ponta e pra fechar com chave de ouro uma Marinha que não tem sequer condições de funcionar como guarda costeira.
Eu acho que infelizmente isso é um caminho sem volta, cada dia mais a Skynet deixa de ser só uma brincadeira para se tornar uma possibilidade.
Guerra é guerra.
Se essa arma se popularizar, cair nas mãos de terroristas e matar um chefe de Estado? Olha o tamanho desse bicho e a facilidade de esconder, quais as medidas podem ser tomadas pra evitar um ataque desses? Existem bloqueadores, mas ao que parece ele funciona de forma autônoma também. Não é interessante de forma alguma manter essa produção.
Concordo! E aqueles que hoje acham que essas armas devem continuar sendo produzidas é aperfeiçoadas, eu gostaria que ficassem frente à frente com uma delas em uma situação real.
Qualquer um pode criar uma arma dessas… A maior dificuldade é em ser autonomo, mas com arduino já é possível. A maioria dos componentes é comprada facilmente por qualquer aeromodelista. Mesmo que seja improvisado em um drone facilmente encontrado no mercado.
e mais facil chefe de estado usar isso ai pra matar civis “desobedientes”, a china ja tem dados de toda sua população e essa ideia so cresce em todos os países.
Sim, deve existir um esforço para conter esse tipo de arma. Depois do uso extenso da primeira guerra mundial o uso das químicas se tornou raro. Nunca tivemos uma explosão de bomba nuclear em combate depois da segunda guerra. Dá um trabalhão mas é um esforço que vale a pena.
Os caras preocupados com dronezinho…
.
Essa gente deveria era gastar a energia que tem discutindo Cyber, que não só pode como já é empregada contra civis. Cyber é a grande desgraça do nosso tempo. O dronezinho é só mais uma arma qualquer, que vai ferrar com os exércitos medíocres que não se preparam para lidar contra uma guerra moderna.
O problema não são os militares, são os civis. Uma arma dessa natureza pode ser usada para exterminar populações civis, sem chance alguma da maioria delas conseguir fugir.
Ataques cibernéticos também são realidade e potencialmente catastróficos, mas não menosprezaria a questão apresentada como “dronezinho” já que se trata de todo uma nova categoria de armas, que podem operar desde as profundezas do oceano ao espaço e que em alguns aspectos já sobrepujaram as capacidades humanas.
Ou melhor, no fundo acabam sendo preocupações semelhante tudo depende do tipo e localização do hard/software estão, não tem porque menosprezar uma ou outra.
Skynet
Eu disse a alguns anos atrás e volto a afirmar, que os drones são a nova “praga” da humanidade. E isso é não apenas no sentido ambiental, ou de tempos de guerra…. são componentes que podem ser usados para as mais diversas tarefas, tanto benéficas quanto maléficas… Podemos por exemplo daqui a algumas décadas termos nossos céus infestados dessas porcarias voadoras fazendo as mais diversas atividades… delivery, monitoramento social, segurança, escolta, policiamento e ou GLO, pulverizando plantações, monitorando vida silvestre, usados por traficantes para atacar a polícia ou entrega de drogas e/ou armas… enfim, esses equipamentos voando aos milhares sobre… Read more »