Robôs e máquinas assassinos de IA cada vez mais sofisticados poderiam acidentalmente iniciar uma guerra e levar a atrocidades em massa, disse uma ex-funcionária do Google ao The Guardian.
Laura Nolan renunciou ao Google no ano passado em protesto por ter sido designada para o Projeto Maven, que visava aprimorar a tecnologia militar de drones dos EUA. Ela pediu que todas as armas autônomas não tripuladas fossem proibidas.
Uma tecnologia potencialmente calamitosa
Os robôs assassinos de IA têm o potencial de fazer “coisas calamitosas para as quais não foram originalmente programados”, explicou Nolan ao The Guardian.
Ela faz parte de um crescente grupo de especialistas que demonstram preocupação com o desenvolvimento da inteligência artificial programada em máquinas de guerra.
Nolan se juntou à Campanha para Parar Robôs Assassinos e conversou com diplomatas da ONU em Nova York e Genebra sobre os grandes perigos do armamento de IA.
“A probabilidade de um desastre é proporcional a quantas dessas máquinas estarão em uma área específica ao mesmo tempo”, disse ela ao jornal.
“O que você está vendo são possíveis atrocidades e assassinatos ilegais, mesmo sob as leis da guerra, especialmente se centenas ou milhares dessas máquinas forem implantadas”.
“Pode haver acidentes em larga escala, porque essas coisas começarão a se comportar de maneiras inesperadas. É por isso que qualquer sistema avançado de armas deve estar sujeito a um controle humano significativo, caso contrário, eles precisam ser banidos porque são imprevisíveis e perigosos demais.”
Acidentes fatais de guerra
Nolan diz que circunstâncias externas, como mudança de sistemas climáticos ou máquinas, incapazes de interpretar adequadamente o comportamento humano, podem levar a acidentes fatais em grande escala.
A ex-funcionária do Google foi convidada para trabalhar no Projeto Maven da empresa de pesquisa em 2017. Ela se tornou uma das principais engenheiras de software da empresa antes de se demitir, pois estava “cada vez mais preocupada eticamente” com o trabalho que estava realizando.
Em 2017, Elon Musk e 116 outros especialistas assinaram uma carta aberta à União Europeia pedindo proibição total de robôs assassinos.
No ano passado, o Google decidiu não renovar seu contrato para o Projeto Maven. No entanto, a tecnologia ainda está sendo desenvolvida por governos em todo o mundo.
Achou útil essa informação? Compartilhe com seus amigos! xD
Deixe-nos a sua opinião aqui nos comentário.