Inteligência artificial na guerra cibernética: o fim da humanidade é iminente?
Inteligência artificial na guerra cibernética: o fim da humanidade é iminente?
O desenvolvimento da inteligência artificial completa pode significar o fim da raça humana. Ele decolaria por conta própria e se redesenharia a um ritmo cada vez maior. Os humanos, que são limitados por uma evolução biológica lenta, não poderiam competir e seriam substituídos. ”
- Stephen Hawking
A guerra cibernética é uma nova forma de guerra travada por meio de computadores , software aprimorado, internet e malware para promover as agendas nacionais e melhorar o jogo internacional de poder.
Com o aprimoramento da tecnologia, os meios de guerra também mudaram, com “ armas ” melhores e mais eficientes sendo usadas no ciberespaço. O jogador mais recente no mundo da guerra cibernética é a Inteligência Artificial, que aumenta a eficiência de tais ataques cibernéticos.
A IA elimina o elemento humano e permite que um sistema de alto desempenho cuide de todos os detalhes dos ataques no ciberespaço.
Embora a guerra integrada de IA tenha muitos benefícios, também precisamos nos manter informados sobre as desvantagens da tecnologia. A IA tem potencialmente a capacidade de derrubar um fenômeno globalmente desastroso que poderia destruir toda a economia mundial e até mesmo levar à extinção da humanidade como a conhecemos.
No artigo a seguir, exploramos apenas esse conceito; discuta a guerra cibernética e a arma mais recente de seu arsenal, a inteligência artificial. Discuto ainda as possibilidades de ataques de guerra cibernética usando IA e, finalmente, vejo um pequeno raio de esperança na prevenção de um desastre de IA global.
Guerra cibernética
O Stuxnet , coroado o precursor da guerra cibernética moderna , foi a primeira instância de qualquer forma de malware a causar danos físicos além das fronteiras internacionais. Embora existam algumas outras ocorrências no passado de ataques cibernéticos semelhantes através das fronteiras internacionais, eles não chegam perto do dano ou da popularidade do Stuxnet.
Supostamente iniciado como uma operação conjunta EUA-Israel contra o Irã, o Stuxnet tinha como alvo falhas em computadores Windows com uma unidade de controlador lógico programável . O objetivo da operação, batizada de “Jogos Olímpicos”, era derrubar a energia nuclear do Irã . O Stuxnet conseguiu causar danos a milhares de centrífugas na instalação de enriquecimento de urânio de Natanz.
O próprio termo guerra cibernética é usado para se referir a ataques semelhantes ao mencionado acima, onde uma entidade ataca outra entidade semelhante para causar danos aos recursos de informação, financeiros e físicos desta última. Normalmente, essas entidades podem ser estados-nações, grupos APT ou mesmo grupos hacktivistas.
Em 2001, Alford L, em seu artigo intitulado ' Guerra Cibernética: Uma Nova Doutrina e Taxonomia ', definiu a guerra cibernética como:
Qualquer ato destinado a obrigar um oponente a cumprir nossa vontade nacional, executado contra os processos de controle de software dentro do sistema de um oponente.
Jeffrey Carr, em seu livro intitulado 'Por dentro da guerra cibernética: mapeando o submundo cibernético ', oferece mais uma definição para guerra cibernética:
A guerra cibernética é a arte e a ciência de lutar sem lutar; de derrotar um oponente sem derramar seu sangue.
Ambas as citações examinam um aspecto diferente da guerra cibernética, o primeiro, o objetivo da guerra cibernética, e o último, a própria arte da guerra cibernética.
Inteligência Artificial: Uma Nova Arma?
Quando você ouve o termo Inteligência Artificial ou IA, a primeira coisa que vem à mente são os robôs humanóides assumindo o controle do planeta e destruindo a raça humana como a conhecemos. Base de muitos filmes de ficção científica, a inteligência artificial é um campo de rápido crescimento da ciência da computação que tenta recriar a inteligência humana em um sistema de computador.
Definições históricas de IA:
- Sistemas que pensam como humanos.
- Bellman, 1978
- Sistemas que agem como humanos .
- Kurzweil, 1990
- Sistemas que pensam racionalmente .
- Winston, 1992
- Sistemas que agem racionalmente.
- Luger e Stubblefield, 1993
Definições selecionadas :
- Sistemas automatizados : "Um sistema físico que funciona sem nenhum (ou limitado) envolvimento do operador humano, normalmente em ambientes estruturados e imutáveis, e o desempenho do sistema é limitado ao conjunto específico de ações que foi projetado para realizar ... normalmente, essas são boas - tarefas definidas que têm respostas predeterminadas de acordo com prescrições simples de script ou baseadas em regras. ”
- Autonomia : “A condição ou qualidade de ser autogovernado a fim de realizar uma tarefa atribuída com base na própria consciência situacional do sistema (percepção, percepção e análise integradas), planejamento e tomada de decisão.”
Embora as máquinas de IA não assumam o controle do planeta por mais alguns anos, elas já são bastante sofisticadas e avançadas. Já existem sistemas que podem imitar as atividades humanas tão simples como identificação de imagem, reconhecimento de voz etc., ou tão complexos como diagnóstico médico, análise de vulnerabilidade etc.
Esse potencial da IA para imitar e aprimorar tais atividades também manteve vários governos nacionais interessados no campo, com alguns até dando saltos gigantescos. Por exemplo, o Irã tem investido em robótica e IA nos últimos 10 anos, que agora está sendo integrada às operações militares iranianas, tornando-as mais destrutivas e eficientes.
Um exemplo recente de tais desenvolvimentos seria o Loyal Wingman , um jato semelhante a um caça sem piloto da Boeing Co, que foi testado com sucesso pela Royal Australian Air Force (RAAF) no início deste ano. O drone de combate é construído para ser semi-autônomo , o que significa que não requer um piloto para manobrar e pode executar missões de combate por conta própria.
O drone despertou o interesse dos EUA e do Reino Unido, que podem ser compradores em potencial do drone de combate em um futuro próximo.
Os EUA também investiram em IA militar por meio da Agência de Projetos de Pesquisa Avançada de Defesa do Pentágono (DARPA), que tem canalizado dinheiro para pesquisas fundamentais de IA.
Embora essas aplicações de IA ainda envolvam algum tipo de guerra física, pesquisas mais recentes procuram direcionar a guerra mais para o ciberespaço. Como a citação mencionada na seção anterior por Jeffrey Carr, a pesquisa em guerra cibernética usando IA visa derrotar ou atacar um inimigo sem derramar sangue.
Embora o desenvolvimento de IA que pode hackear ou atacar a infraestrutura cibernética de um estado-nação inimigo ainda não esteja totalmente desenvolvido, existem outros aplicativos autônomos que podem ser usados para a guerra cibernética.
Verificação de vulnerabilidade autônoma
A verificação de vulnerabilidades está no centro de toda a inteligência de ameaças e ajuda a proteger o sistema de todas as falhas que podem ser exploradas por um hacker. Se você pode encontrar uma vulnerabilidade em um sistema, você pode definitivamente comprometê- lo e causar danos ou extrair informações confidenciais dele.
Com os desenvolvimentos mais recentes em IA e aprendizado de máquina, o processo de verificação de vulnerabilidades também passou a ser autônomo. Ferramentas como SIEM ou antivírus já são semi-autônomas e podem encontrar vulnerabilidades potenciais no sistema.
Pesquisas mais recentes se aprofundaram nos algoritmos de aprendizado de máquina, tornando possível tornar esses sistemas completamente autônomos.
Os artigos acadêmicos, " Análise de falsos positivos de vulnerabilidades de software usando aprendizado de máquina " [por S Gowda, D Prajapathi, Singh e SS Gadre], " Classificação de vulnerabilidade de software ciente de contexto usando aprendizado de máquina " [por G Siewruk e W Mazurczyk] e “ Aplicação de regressão logística em varredura de vulnerabilidade da WEB ” [por L Tao e Z Long-Tao] exploram apenas esse conceito de integração de aprendizado de máquina com análise de vulnerabilidade.
Ser capaz de encontrar vulnerabilidades no ciberespaço inimigo é prejudicial a qualquer forma de guerra cibernética entre Estados-nação. Se eu puder simplesmente executar um sistema que verifica constantemente os recursos do governo de outro país em busca de vulnerabilidades, poderia passar o resto do meu tempo desenvolvendo exploits ou malware para uso posterior.
Deepfakes
Embora os deepfakes não sejam exatamente uma forma de ataque contra qualquer pessoa, eles podem ser usados para manipular funcionários de nações para que tomem medidas ofensivas contra alguém ou outra nação. Sim, eu entendo que o resultado de uma falsificação tão profunda não é tecnicamente uma guerra cibernética , mas como a causa está no ciberespaço, estou contando.
Mais recentemente, os líderes do Reino Unido, Letônia, Estônia e Lituânia foram enganados por alguns “brincalhões” que usaram tecnologia falsa para se passar por Leonid Volkov , chefe de gabinete da oposição russa.
Com o esquema deepfake, Kuznetsov e Stolyarov, mais conhecidos como Vovan e Lexus, conseguiram se infiltrar em reuniões secretas, videoconferências e, às vezes, até ligações diretas com alguns políticos e celebridades ocidentais.
Esta "pegadinha" da vida real, ou como você quiser chamá-la, mostra como a tecnologia deepfake pode ser manipuladora.
Imagina isto. Um belo dia, surge um vídeo em que Vladimir Putin ou Joe Biden ou Kim Jong-un ameaçam um ataque nuclear iminente. Embora possa ser provado que é falso no longo prazo, ele certamente causaria um desastre mundial até esse momento. Os governos mundiais entrariam em pânico, com alguns até resolvendo o problema com as próprias mãos por meio de ataques preventivos.
As pessoas também entrariam em pânico, causando reuniões em massa, tumultos e uma queda total de toda a economia mundial.
Para ler mais sobre deepfakes, leia nosso artigo Deepfake crimes: quão reais e perigosos eles são em 2021?
Senciência
A base da maioria dos filmes de ficção científica modernos, a IA senciente é o objetivo final de alguns pesquisadores ou “cientistas malucos” no mundo inteiro.
Tudo começou quando Alan Turing, em seu artigo acadêmico intitulado “ Computing Machinery and Intelligence ”, propôs a pergunta, formate como citação “ As máquinas podem pensar? ”Embora no passado tenha havido noções semelhantes de computadores sencientes, foi Alan Turing, seu ' Jogo de Imitação ', que levou a noção ao próximo nível.
Senciência é basicamente a capacidade de estar ciente de sentimentos e sensações / estímulos externos e responder a eles de acordo. Para humanos, estímulos externos podem significar um dos 5 sentidos, a saber - olhos, ouvidos, nariz, língua e pele . Um sistema que pode fazer isso pode ser classificado como um sistema senciente.
Capacidades mais avançadas envolveriam um processo de pensamento bem definido, livre arbítrio e a capacidade de responder às ações por meio da experiência.
Quando um computador criado por humanos atinge a senciência, os resultados podem ser muito desfavoráveis à sobrevivência dos humanos. Esses sistemas sencientes descobririam rapidamente a teoria darwiniana da sobrevivência do mais apto e eliminariam rapidamente o componente humano do quadro.
Mas eu acho que isso é muito profundo na ficção científica, onde a linha entre ficção e realidade fica muito confusa.
Um raio de esperança
No entanto, as coisas não são tão ruins quanto parecem no que diz respeito à inteligência artificial no ciberespaço. Em uma entrevista com Paul Scharre, autor premiado de Army of None: Autonomous Weapons and the Future of War, ele afirmou que o Pentágono dos Estados Unidos e várias partes interessadas são bastante cautelosos ao abordar a IA.
Eles apenas aprovam certas coisas, como sistemas autônomos de defesa contra mísseis, mas nada tão potencialmente perigoso quanto a IA senciente.
O relatório de Inteligência Artificial e Segurança Nacional do Serviço de Pesquisa do Congresso afirma que a família atual de algoritmos de aprendizado de máquina atingirá seu pico nos próximos 10 anos . O avanço da IA além deste ponto exigirá saltos significativos em tecnologia , como computação de alta potência e sistemas de computação quântica.
No passado, esses planaltos no avanço da IA eram conhecidos como ' Invernos de IA ', quando o desenvolvimento no campo diminuía significativamente.
Além disso, a popularidade da IA também se baseia em como os usuários percebem suas desvantagens e o quanto confiam nela. Com a IA se tornando cada vez mais comum na vida diária, mesmo as deficiências simples não serão toleradas pela maioria das pessoas, o que leva a uma perda de confiança no sistema e diminui a disposição futura de usá-los.
Este conceito é explorado no artigo intitulado " Inteligência Artificial e Vida em 2030: Um Estudo de Cem Anos sobre Inteligência Artificial "
A inteligência artificial também tem uma infinidade de aplicativos no ciberespaço, como caça a ameaças, detecção de vulnerabilidades e até mesmo análise de malware. As vantagens atuais da IA, aliadas à falta de tecnologia para um sistema sofisticado, devem garantir qualquer forma de Cyberwar com IA que acabe com a população mundial ou cause um desastre em escala global.
Conclusão
Em nosso artigo, examinamos o conceito de guerra cibernética, juntamente com a arma mais recente em seu arsenal, a Inteligência Artificial. Vimos como a IA poderia levar a um ataque ou desastre de impacto mundial e continuamos procurando um raio de esperança entre todas as trevas no futuro.
A IA é um campo da ciência em rápido crescimento e tem muito a oferecer à humanidade. Envolver a IA na guerra cibernética pode parecer uma boa ideia, mas deve ser usado com cautela devido a todos os riscos desastrosos que pode causar.
Se você gostou da leitura deste artigo ou discorda das ideias aqui apresentadas, informe-nos deixando sua opinião nos comentários abaixo.
Veja mais na CoolTechZone
Comentários
Postar um comentário