logo seesp ap 22

 

BannerAssocie se

04/01/2022

Artigo – Máquinas autônomas armadas seguem ameaçando vidas humanas

Carlos Magno Corrêa Dias*

 

Para a maioria das pessoas IA (Inteligência Artificial), “Machine Learning” (Aprendizagem Automática de Máquina), Algoritmos “Inteligentes” que geram eles próprios outros Algoritmos mais poderosos, CA (Consciência Artificial), Robôs Humanoides, Humanos Digitais, Máquinas que constroem Máquinas, dentre outras Tecnologias do mundo 4.0, não passam de ficção científica. Alguns chegam a afirmar que sequer existem tais tecnologias e que seriam tão somente modos de entretenimento inventados para atrair maior público para ganhar mais e mais dinheiro.

 

Outros, entretanto, mesmo que acreditem em tais tecnologias se mostram com certa reserva ao tratarem do assunto. Estes grupos estão mais preocupados com os benefícios das tecnologias e não estão interessados em questões polêmicas sobre a robótica e suas consequências. 

 

Há outros, porém, que mesmo não tendo conhecimentos específicos, não só acreditam, mas, também, defendem que robôs existem para servir, incondicionalmente, aos seres humanos e confiam que jamais as máquinas farão algum mal para a humanidade. Creem, seriamente, que sempre o homem estará no controle a despeito da evolução dos robôs.

 

Muitos defendem que as máquinas autônomas jamais deixaram de cumprir as três leis da robótica como diretrizes para proteger os seres humanos dos robôs; quais sejam: (1) “Um robô não pode ferir um humano ou permitir que um humano sofra algum mal”; (2) “Os robôs devem obedecer às ordens dos humanos, exceto nos casos em que essas ordens entrem em conflito com a primeira lei”, e, (3) “Um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores”.

 

Mas, acredite-se ou não nas tecnologias robóticas elas estão presentes no dia a dia dos humanos e a cada hora mais e mais se espalham em todos as direções interferindo ou condicionando praticamente todas as atividades humanas. Para uma ideia do correspondente avanço veja-se que o número de robôs no mundo nos últimos 3 anos aumentou em quase 2 milhões de unidades nas fábricas incluindo neste total desde robôs colaborativos, robôs de construção, exoesqueletos, veículos autônomos, drones, dentre outros. 

 

Todavia, é importante alertar que, absolutamente, não há certeza alguma sobre segurança plena para os humanos diante dos enormes novos perigos possíveis (em muitas das vezes, sequer imaginados). Qualquer robô com IA e autônomo, que se aprimora a cada dia por si só, muitas vezes mais forte, mais resistente e com maior capacidade de processamento de informações que a dos humanos, poderá, em algum momento, em dadas condições, fazer sim algum mal para o ser humano conforme as decisões ótimas que se obrigue adotar. 

 

A ideia ingênua de que os robôs são construídos para jamais fazer mal para as pessoas e para sempre estarem prontos para servir a humanidade é, sim, uma ficção, uma tola ilusão, pois não há sistema suficientemente seguro que venha impedir um robô de ferir ou mesmo matar um ser humano (seja por acidente ou mesmo segundo prévia programação). 

 

Mas, o mais grave da condição em questão é que já há décadas os robôs estão ferindo e matando os homens no planeta (embora não se tenha muita consciência deste fato).

 

A afirmação precedente (“já há décadas os robôs estão ferindo e matando os homens no planeta”) fica fácil de ser compreendida bastando tomar a definição mais geral (talvez mais simples) do termo “robô” a qual estabelece que um “robô pode ser qualquer forma de tecnologia que possua algum tipo de elemento autônomo, ou seja, que não precisa do auxílio humano para realizar determinadas tarefas”.

 

Disto posto, vão surgindo, em fila infindável, os muitos exemplos de robôs, principalmente de uso militar, que foram e são utilizados, para o bem ou para o mal, e que já provocaram sérios danos aos seres humanos. 

 

Robôs guerraExemplos de robôs que matam seres humanos não faltam. Unidades de armamentos móveis controlados por controle remoto como o SWORDS (“Special Weapons Observation Reconnaissance Detection System” (Sistema Especial de Armas Observação Reconhecimento e Detecção) é um dos casos já clássicos. O SWORDS, utilizados pelo Exército Americano na Guerra do Iraque, foi um robô móvel projetado para ser o primeiro veículo armado robótico operado por controle remoto e utilizado em combate. Basicamente, era um “carrinho pequeno cheio de munição e metralhadoras”.

 

Em geral, um SWORDS pode carregar uma metralhadora M249 de 5.56 mm, uma metralhadora M240 de 7.62 mm ou um fuzil de precisão M109 Barrett de calibre .50, tendo, também, a possibilidade de se encaixar lançadores de granadas de 40 mm. Detalhe: segundo observado pelo fabricante o SWORDS é o primeiro robô armado terrestre que possui certificação de segurança e foi projetado de forma que no caso de algum descontrole eventual a máquina poderia ser desativada remotamente. O único grande problema, em modelos semelhantes, é que se ocorrer algum problema de comunicação com a máquina durante a operação militar o controlador não terá como se comunicar com o equipamento. 

 

Atualmente existem diversos robôs armados autônomos sofisticados com IA que estão sendo utilizados seja para matar pessoas ou apenas para realizar ações diversas como desarmamentos de explosivos ou em missões de reconhecimento. Existem até projetos (já bem avançados) para a construção de robôs soldados que, em futuro não muito distante, serão integrar os exércitos em substituição aos soldados humanos.

 

Somente para ilustrar o nível de evolução já atingido no setor em questão registre-se que uma empresa especializada em plataformas robóticas desenvolveu, recentemente, uma versão de cão robô equipado com um rifle com alcance de 1.200 metros e contendo zoom óptico de até 30 vezes e câmera térmica para mirar no escuro. O fabricante garantiu que este cão robô armado será totalmente controlado por um operador remoto, ou seja, será necessário um humano para controlar a arma. O rifle acoplado ao cão robô é chamado de Special Purpose Unmanned Rifle (Spur), que em tradução livre significa algo como “rifle não tripulado de uso especial". Não é ficção. Cães robôs já perseguem, caçam e matam seres humanos há algum tempo. 

 

Outro exemplo, tão ou mais impressionante, trata-se do "Flyboard Air" que voou várias dezenas de metros acima do solo, em dada vez, em Paris, nas festividades de um 14 de julho, quando os franceses celebravam a Queda da Bastilha. Um homem armado com fuzil tripulava aquela “prancha voadora” a qual era propulsada por jatos de ar gerados por 5 motores a jato alimentados por óleo de parafina que regulavam o impulso e a estabilidade da prancha. Relatos dão conta que a tecnologia utilizada foi algo parecida com aquela que se usa para estabilizar os drones.

 

Mas, para além daquela apresentação está a intenção de transformar aquele “hoverboard” voador em uma arma poderosa automatizada tanto para uso como plataforma de logística voadora quanto para plataforma de assalto concretizando antigo desejo que nasceu lá na Segunda Guerra Mundial de se ter soldados voadores (preferencialmente, máquinas robotizadas). Boatos correm que já existe o “Fly-EZ” que seria a versão militar daquele “hoverboard” voador apresentado nas festividades do 14 de julho francês.

 

Então, vê-se que a questão de se acreditar ou não na existência de máquinas “inteligentes” com IA que aprendem e ensinam máquinas que elas próprias criam não é mais o caso. Na verdade, nunca foi. Robôs espionam, controlam, atacam e matam já há algum tempo. Muito além de apenas facilitar a vida das pessoas, os robôs com IA podem ser usados como verdadeiros assassinos sejam por meio de manipulações diretas pelos humanos ou por eles próprios.

 

Com o passar dos tempos e com os benefícios incontestáveis que as máquinas vão oferecendo para uma melhor qualidade de vida das pessoas cada vez mais o homem fica dependente das máquinas. Tal dependência fará com que o ser humano vá perdendo suas habilidades desenvolvidas durante séculos uma vez que quase tudo passar a ser executado pelas máquinas. O próximo passo, o passo mais perigoso, será a transferência das decisões humanas para as máquinas momento no qual uma nova classe de escravos será instituída.

 

A evolução das máquinas chegará a um ponto no qual a limitação mental do homem sequer poderá compreender o correspondente desenvolvimento superior e neste momento crucial o homem perderá seu poder sobre as máquinas. O poder do conhecer continuará a fazer escravos e servos incondicionais como sempre aconteceu.

 

Um aspecto intrigante sobre os robôs é que como quaisquer tecnologias são criações do homem ou têm a primeira possibilidade pelas mãos do homem a responsabilidade do ser humano sobre as tecnologias jamais poderá ser retirada do ser humano. Assim, chega a ser até engraçado (senão bizarro) está história dos perigos que os robôs causaram, causam ou causarão na sociedade. Os resultados daquilo que o homem cria tem por responsável apenas aquele que originalmente deu existência à criação mesmo que o original depois evolua para formas sequer imaginadas por seus criadores.

 

Quando ATLAS (um novo sistema de mira a ser instalado em veículos de combate para identificar e executar alvos com mais velocidade e melhor precisão) começar a matar, a assassinar, pessoas não será sua IA a culpada pela destruição de vidas humanas. Quando o I9 (um drone armado e operado remotamente para uso em situação de guerra urbana) gerar milhares vítimas humanas em poucos minutos não será, também, sua IA a culpada pelo disparo das correspondentes armas em meio aos civis inocentes indefesos que poderão ser atingidos no perímetro conflituoso onde estarão vivendo crianças, mulheres, idosos, enfim, muitos outros que não apenas bandidos reconhecidos.

 

Embora já existam movimentos objetivando a proibição mundial de sistemas eletrônicos autônomos letais (que dariam origem aos chamados “robôs assassinos”) - tipo a “Campaign to Stop Killer Robots” (Campanha para Parar os Robôs Assassinos) - grupos outros, pelo contrário, trabalham para eliminar qualquer regulamentação que venha proibir o desenvolvimento dos correspondentes armamentos automáticos “inteligentes”.

 

É de se salientar, também, entretanto, que embora existam diversas tecnologias que, em um primeiro olhar, possam até não ser entendidas como “robôs assassinos” o são sim quando se encaixam na definição anteriormente considerada ao automatizarem processos humanos que levam à morte de pessoas.

 

Veja-se, por exemplo, que a primeira invenção de robótica para fins militares talvez tenha sido aquele dispositivo utilizado pelos bombardeios do exército dos Estados Unidos que não apenas mediam a distância da trajetória do explosivo até o alvo, como, também, era programado para explodir quando atingisse uma distância determinada do objeto ao qual deveria destruir. Antes da existência de tal dispositivo era obrigatória a realização de difíceis cálculos manualmente para avaliar quanto tempo a bomba levaria para chegar ao ponto de explosão do alvo o que nem sempre resultava em êxito devido às múltiplas variáveis envolvidas e às deficiências tecnológicas da época.

 

Então, faz algum tempo que o homem tem criado robôs para matar os de sua própria espécie. Chega-se atualmente, porém, a um ponto no qual não é mais importante se discutir se devam ou não existir robôs nos campos de batalha guerreando contra ou do lado de seres humanos. O que se faz necessário avaliar (e muito bem) são as razões que impelem o uso destas máquinas para matar humanos e que formas de intervenção humana devem ser admitidas quanto à operacionalização afim de manter uma “ética da guerra” uma vez que parece ser impossível eliminar a guerra das mentes humanas; conquanto mesma esta opção seja, também, absurda.

 

Mas, não se deve esquecer, porém, em momento algum, que, a despeito de quaisquer sutilezas (ou subterfúgios), as máquinas estarão nas mãos de soldados os quais continuarão a ser “treinados” para eliminar o inimigo não lhes causando (em geral) quaisquer preocupações o valor de cada vida de um seu inimigo retirada no campo de batalha. No momento da guerra não há como analisar as possíveis questões filosóficas envolvidas. Conquanto absurdo, o custo humano da guerra pouco importa.

 

Logo, não será difícil de entender as razões de se fazerem altas apostas nos esperados resultados ao se investir em “máquinas de matar robotizadas”. Se objetiva sim o maior número de baixas do inimigo não importando quantas vítimas civis ocorram paralelamente.

 

Mas, a utilização de robôs, sejam controlados remotamente por humanos ou dotados de aprendizado de máquina (no qual o próprio robô vai aprendendo e decidindo quais são os melhores alvos a destruir) tem demonstrado, por outro lado, que o custo político, dentre outros, é muito elevado para os governos não tanto pela guerra em si, mas, sim pelas inúmeras questões éticas envolvidas. 

 

Diante do empoderamento que o ser humano (insistentemente e, muito possivelmente, irresponsavelmente) está dando para as máquinas especialistas em matar as quais vão se transformar nos únicos juízes para decidir em meio a conflitos armados quem será eliminado ou não põe por terra todos os “escudos éticos” já engendrados pelos homens anunciando um caos cujas consequências dificilmente serão mitigadas. 

 

Mas, não se pode esquecer que conforme a evolução dos algoritmos controlados por IA viver-se-á uma realidade na qual cada ser humano “torcerá” para jamais ser escolhido como alvo a ser eliminado por uma máquina autônoma armada.

 

Leve-se em conta que o terrível futuro aventado no parágrafo precedente está bem próximo haja vista que as máquinas “inteligentes” armadas estão se aperfeiçoado muito aceleradamente e com precisão cada vez mais intensificada. Hoje em dia, muito facilmente, um motorista de automóvel ou um piloto de avião, ou mesmo um transeunte qualquer, pode saber em segundos, com precisão incrível, onde está a qualquer hora e em todo lugar bastando para tanto tão somente apertar um botão em algum dispositivo que acesse o sinal enviado por um sistema de navegação por satélite. Imagine, só imagine, por um instante, que exista um alvo a ser abatido por um drone armado com tal dispositivo. Pense um pouco mais e vislumbre a possibilidade que o alvo escolhido em questão tenha sido você. Um tanto assustador, sem dúvidas.

 

E, ainda, tomando-se por base a mesma possibilidade aventada, acrescente-se que o citado equipamento militar, autônomo, avalie (com precisão matemática e lógica) que não apenas o um alvo específico deva ser eliminado, mas, também, que todos aqueles que estejam ao seu redor devam ser exterminados para uma melhor execução da tarefa originalmente decidida realizar. Ficção científica? Certamente que não. Exageros retóricos? Muito menos.

 

Mas, o quadro é bem mais complexo. Os robôs soldados autônomos estão sendo projetados para substituir nos campos de batalha tanto os soldados de carne e osso quanto seus comandantes e seus superiores nos mais altos escalões. Na medida que a IA vai assumindo as decisões humanas em breve não mais será necessário sequer um militar no comando durante uma guerra.

 

Os robôs jamais desenvolverão ética por conta própria. Possivelmente poderão classificar suas ações em éticas e não éticas segundo uma programação inicial baseada talvez em convenções internacionais tais como a Convenção de Genebra ou o Tratado de Haia. Todavia, independentemente das vidas humanas, a IA dos robôs militares irão evoluir sempre com base na diretiva da máxima eficiência. 

 

Analisando quantidades gigantescas de dados cada vez em menor tempo os robôs autônomos vão se aperfeiçoando na tomada de decisões e, na medida que seus algoritmos de IA se tornam cada vez mais eficientes, chegarão a atingir total independência dos homens para efetivação de suas ações. Em sentido estrito, dia existirá quando para as máquinas inteligentes importará apenas a otimização das ações a serem realizadas. Além do mais, jamais deve-se perder de vista que robôs não têm medo o qual é, muito provavelmente, um dos fatores determinantes para controlar a humanidade de executar muito mais ações algo desumanas contra os próprios homens.




 

 

*Carlos Magno Corrêa Dias é professor, pesquisador, conselheiro efetivo do Conselho das Mil Cabeças da CNTU, conselheiro sênior do Conselho Paranaense de Cidadania Empresarial (CPCE) do Sistema Fiep, líder/fundador do Grupo de Pesquisa em Desenvolvimento Tecnológico e Científico em Engenharia e na Indústria (GPDTCEI), líder/fundador do Grupo de Pesquisa em Lógica e Filosofia da Ciência (GPLFC), personalidade empreendedora do Estado do Paraná pela Assembleia Legislativa do Estado do Paraná (Alep). 

 

 

 

 

 

 

Lido 103 vezes

Adicionar comentário

Código de segurança
Atualizar



Receba o SEESP Notícias

E-mail:

agenda