Políticos não dançam? IA também não! Uma discussão sobre IA generativa e campanha política
Políticos não dançam? IA também não!
Uma discussão sobre IA generativa e campanha política
“Por que os políticos nunca dançam? – Porque eles têm muitos passos para voltar atrás!”
O Chat-GPT respondeu a isso quando pedimos ao programa que contasse uma piada política. Embora esse exemplo seja um tanto preocupante, pois a suposição subjacente pode perpetuar os estereótipos existentes sobre política e políticos, a piada também destaca que a IA se tornou espirituosa e incrivelmente boa em se comportar de uma maneira que percebemos como humana. Assim, tomamos os recentes avanços da IA generativa como motivação para analisar seus potenciais efeitos em campanhas políticas e eleições democráticas.
Campanha política é sobre comunicação rápida e ampla. O objetivo de qualquer ativista é levar uma mensagem política aos eleitores. A IA, e especialmente os LLMs, podem mudar a mecânica dessa comunicação, pois permitem a rápida proliferação de atos comunicativos a custos muito baixos. O que levou a campanha de influência russa nas eleições presidenciais dos EUA de 2016 (apenas) a um depósito cheio de 'trolls', agora pode ser feito de maneira mais automatizada usando interfaces para sistemas de IA generativos. Argumentamos que a IA generativa influenciará a esfera política e os ambientes de comunicação como uma bolsa de instrumentos acessível, mas, pelo menos por enquanto, não muda a música da campanha política. Até que os sistemas sejam completamente autônomos, eles intensificam os problemas existentes em relação à moderação de conteúdo,
Neste artigo de blog, discutimos as possíveis consequências dos atuais aplicativos de IA generativa para eleições democráticas e campanhas políticas em relação a quatro conjuntos de atores (1) campanhas organizadas e partidos políticos, (2) outros atores políticos como partidários, organizações de campanha de terceiros , ONGs, (3) plataformas digitais online como ambientes de campanha digital como plataformas de mídia social e mecanismos de busca online, e (4) reguladores e instituições de governança eleitoral como, no caso alemão, o Landesmedienanstalten , Bundeswahlleiter, Coordenadores de Serviços Digitais a nível nacional e Comissão da UE, ou a OSCE a nível supranacional. No final, damos uma visão sobre as eleições federais alemãs de 2025 e o papel que a IA generativa desempenhará em contraste com as eleições anteriores em 2021. Além disso, os sistemas de IA podem se tornar mais independentes, com consequências desconhecidas para plataformas online e eleições. Aqui, no entanto, nos abstemos de especular sobre novos desenvolvimentos tecnológicos e nos concentramos nas implicações dos aplicativos de IA atualmente existentes como ferramentas para os conjuntos selecionados de atores.
A IA generativa melhorou rapidamente e, nos últimos meses, interfaces mais acessíveis para geradores de imagem e texto, como o Chat-GPT, estimularam o hype mundial sobre os recursos e as implicações sociais desses modelos. A OpenAI e outras empresas usaram anotações e interações em massa com humanos para treinar ainda mais os modelos de base e diminuir o problema de alinhamento de máquinas que se comportam estatisticamente de forma racional, mas de maneiras que não fazem sentido para os humanos. Além disso, a IA generativa para imagens e vídeos tornou-se facilmente acessível e incrivelmente realista, o que reduz o custo de produção de imagens e vídeos a quase zero.
Isso terá consequências significativas para as campanhas políticas e o sistema de mídia. A IA ainda não dança, o que significa que não é autônoma e não está desenvolvendo seus próprios algoritmos. No entanto, isso pode acontecer em um futuro próximo. Em 2023, a IA generativa pode ser uma ferramenta poderosa para campanhas políticas e para muitos outros setores, gerando conteúdo textual e visual e fornecendo suporte de codificação para análise de dados. No entanto, também acelera os riscos existentes em relação às mídias digitais como ambientes de comunicação política quando os atores políticos não obedecem às normas ou se autolimitam a códigos éticos. Assim, aponta para a governança, regulamentação e educação de plataformas online como áreas críticas para proteger e fortalecer a resiliência das democracias e garantir a justiça eleitoral.
IA e campanhas baseadas em dados na quarta fase da comunicação política
Nos últimos anos, tem havido muito debate sobre o uso de métodos baseados em dados e IA em campanhas políticas. A esse respeito, a IA deve ser entendida como um termo genérico para aprendizado de máquina e métodos de processamento de linguagem natural. A chamada quarta fase da comunicação política é distinta das fases anteriores porque as plataformas digitais e os métodos baseados em dados tornaram-se muito mais presentes e avançados em comparação com as campanhas anteriores ao surgimento da Internet e das plataformas de mídia social ( Römmele e Gibson, 2020 ) . Nossas conversas com especialistas e profissionais de campanha no âmbito do projeto ERC DiCED – Campanha Digital e Democracia Eleitoralenfatizou que os métodos baseados em dados complementam e às vezes competem com uma lógica política baseada na intuição (o chamado instinto) e na experiência dos profissionais de campanha. No entanto, especialistas e profissionais de campanha enfatizaram que não há um algoritmo central ou modelo de IA para decisões de campanha, como distribuição de gastos com anúncios, principais mensagens de campanha ou arrecadação de fundos. Onde modelos preditivos avançados foram usados, eles tiveram um desempenho semelhante ou pior do que os métodos de ciências sociais estabelecidos, como pesquisa de opinião e grupos focais para testar as principais mensagens da campanha e identificar grupos-alvo. Com a empregabilidade mais fácil de métodos de IA generativos e analíticos por meio de interfaces como Chat-GPT,
No que diz respeito às plataformas digitais online, modelos complexos de IA têm sido usados para moderação de conteúdo, como recomendação e filtragem de conteúdo, há anos e tornaram-se muito eficientes na maximização do tempo gasto pelo usuário e na publicidade direcionada, mas também na detecção de práticas ilegais e que infligem diretrizes da comunidade contente. No entanto, sabemos que plataformas de mídia social como o Twitter não excluíram com sucesso o conteúdo que promove narrativas de conspiração e conteúdo cético sobre vacinação durante a pandemia de Covid-19 ( Darius e Urquhart, 2021). Embora as plataformas digitais sejam o conjunto de atores em que os sistemas de IA desempenham o papel mais crucial porque gerenciam os fluxos de informações nessas plataformas, será essencial avaliar o desempenho das plataformas na detecção e como lidarão com a remoção de conteúdo gerado por IA, como imagens, vídeos ou textos, principalmente quando contiverem informações enganosas, falsas ou desinformação política conscientemente enganosa por parte de atores internos e externos.
Em relação aos reguladores e instituições de governança eleitoral, aconselhamos a criação de forças-tarefa para monitorar os debates online e o uso de conteúdo gerado durante os períodos eleitorais sensíveis e recomendamos uma cooperação estreita com os Coordenadores de Serviços Digitais, que serão o Bundesnetzagentur na Alemanha . Para essas instituições, é vital ter uma força-tarefa para o horário de pico eleitoral para coordenar os atores da sociedade civil e identificar comportamentos inautênticos e campanhas de astroturfing . A pesquisa mostrou que houve várias interferências nas eleições por meio de campanhas de astroturfing e anúncios direcionados mal controlados em plataformas de mídia social ( Kim et al., 2018 , Schoch et al., 2022) .
Campanhas políticas organizadas em uma esfera partidária e de comunicação em mudança
Plataformas digitais como mídias sociais e mecanismos de pesquisa online tornaram-se ambientes de campanha essenciais para campanhas políticas organizadas e permitem maior análise de dados. No que diz respeito ao uso de métodos orientados a dados e novas tecnologias, no entanto, o aplicativo pode levar a dois tipos distintos de campanhas que Römmele e Gibson (2020)descrevem como científicas e subversivas. Como tipos ideais, eles declaram um tipo de campanha científica que usa análises aprimoradas para envolver e mobilizar os eleitores. Em contraste, o tipo de campanha subversivo usa mensagens e questões divisivas, discurso populista e anúncios direcionados para aumentar o conflito político e, às vezes, desmobilizar ativamente grupos de eleitores que tendem a votar no oponente político. Como tal, tecnologias como IA generativa podem acelerar essa bifurcação de campanhas políticas em científicas e subversivas.
No caso da Alemanha, as partes escolhem as agências de campanha de marketing como parceiras próximas na criação de conteúdo e estratégias de campanha e no suporte ou gerenciamento da campanha digital. Especialmente para identificar grupos-alvo e lançar anúncios direcionados em mídias sociais como Facebook, Instagram e TikTok (e desde o retorno de Musk para permitir anúncios políticos no futuro novamente também no Twitter) e mecanismos de pesquisa online como o Google. O objetivo central das campanhas digitais e gerais é a persuasão dos eleitores, principalmente do grupo de eleitores indecisos. Nas últimas eleições federais alemãs de 2021, o grupo de eleitores indecisos era anormalmente grande para os padrões alemães porque as afiliações partidárias estão diminuindo ainda mais, e a era Merkel terminou e deixou muitos ex-eleitores Merkel indecisos entre os partidos. A comunicação contínua entre os partidos e os atores da campanha visa levar os eleitores a assinar boletins online através do site principal da campanha e a seguir os candidatos e as contas dos partidos nas redes sociais. A assinatura de boletins, no entanto, vem com recursos analíticos estendidos para testar mensagens de campanha e agrupar eleitores favoráveis.
No que diz respeito à aplicação da IA generativa, sabemos que o conteúdo visual aumentou em importância e quantidade, enquanto os custos diminuíram drasticamente mesmo antes da disponibilidade da IA generativa nos níveis de qualidade atuais. Assim, esperamos um aumento ainda maior no uso de conteúdo visual e uso de ferramentas generativas de IA como DALLE2, Midjourney e muitas outras. Embora a IA generativa reduza o custo da produção de conteúdo visual, ela pode aumentar o custo das equipes internas de resposta rápida do partido para neutralizar postagens falsas sobre o próprio partido ou os principais candidatos. Nas últimas eleições de 2021, também observamos um aumento de campanhas negativas, como vídeos ou postagens em mídias sociais e anúncios atacando oponentes políticos em vez de promover os próprios objetivos políticos. Isso é na Alemanha, em contraste com outros países e especialmente os EUA, relativamente incomum e pode acelerar com o aumento do uso de IA generativa que pode permitir a produção de fotos comprometedoras de adversários políticos. Um exemplo recente que fezAs manchetes alemãs nos últimos meses foram uma imagem gerada de homens de aparência árabe com rostos raivosos gerados e postados (com uma legenda enganosa) por políticos do partido de extrema-direita Alternative für Deutschland (AfD). Além disso, na corrida para as eleições presidenciais dos EUA em 2024, a campanha de Ron DeSantis usa deep fakes e conteúdo gerado para comprometer seu oponente à candidatura republicana Donald Trump. Para evitar uma espiral de conteúdo de campanha inautêntico, os partidos e os atores políticos devem se comprometer com diretrizes ou códigos comunicados publicamente e aderir a essas regras.
Atores terceirizados
As ferramentas digitais e as mídias sociais também oferecem aos atores terceiros um palco público para expressar suas opiniões sobre os partidos e candidatos que fazem parte da competição eleitoral. Atores terceirizados são partidários e, às vezes, organizações de campanha terceirizadas bem financiadas, como ONGs, associações industriais ou sindicatos. Embora algumas dessas organizações representem os interesses de sua clientela há décadas, outras foram financiadas nos últimos anos e lançaram campanhas de marketing e mídia social em épocas de campanha para influenciar a opinião pública sobre partidos, questões e candidatos. A Internet e as mídias sociais permitem uma espécie de campanha iniciada pelos cidadãos ( Gibson, 2015). Plataformas como Facebook, Instagram ou Twitter também permitem que os partidários influenciem a percepção pública e a visibilidade das mensagens dos atores oficiais da campanha política ( Bossetta, 2018 ; Darius, 2022 ).
Além disso, partidários e atores políticos se comportam estrategicamente e, às vezes, buscam reivindicar as mensagens e hashtags de seus oponentes políticos nas chamadas estratégias de hashjacking ( Bode et al., 2015 ; Darius e Stephany, 2019 ). Nesses ambientes competitivos de campanha pública, o conteúdo visual gerado pode fornecer uma ferramenta para aumentar a atenção e causar escândalos, primeiro pela reivindicação potencial do próprio conteúdo gerado e, segundo, quando a mídia noticia que ele é falso. Além disso, atores terceirizados também podem empregar bots e contas inautênticas para aparecer como cidadãos “normais” e apoiar seus candidatos políticos favoritos ou atacar verbalmente oponentes políticos.
O conteúdo e a atividade gerados por IA podem ajudar a fazer uma campanha “dançar” e atrair mais visibilidade online, no entanto, de maneira enganosa e inautêntica. Isso é especialmente preocupante no que diz respeito à capacidade dos argumentos gerados pela IA de afetar ou persuadir os cidadãos a mudar suas posições políticas ( Bai et al., 2023 ). Assim, é crucial que vários atores monitorem a esfera da campanha para detectar comportamentos inautênticos coordenados precocemente, como campanhas de desinformação, e desmascarar o conteúdo enganoso gerado antes que ele atinja um público amplo nas plataformas de mídia social ou seja captado pela mídia tradicional. Além disso, só podemos esperar que o eleitorado puna aqueles que usam métodos subversivos nas urnas.
Plataformas digitais e mídia
Os mecanismos de pesquisa on-line digital e as plataformas de mídia social fornecem ambientes de campanha cruciais que permitem análises mais refinadas do que os canais de mídia tradicionais e precisarão investir mais recursos para descobrir atividades geradas por IA e desinformar o conteúdo nos próximos anos. O serviço central dessas plataformas é a recomendação de conteúdo aos usuários e é baseado em sistemas algorítmicos de moderação de conteúdo ( Gorwa et al., 2020). IA generativa e modelos de linguagem ampla melhorarão ainda mais a precisão da moderação de conteúdo, e nossa expectativa é que também a detecção de conteúdo prejudicial e enganoso também acompanhe o aumento do número de conteúdo gerado e contas não autênticas. As empresas de plataformas devem relatar detalhadamente os métodos usados e as métricas aplicadas à detecção de conteúdo gerado prejudicial e consultar pesquisadores e formuladores de políticas sobre como tornar suas plataformas um ambiente mais seguro para campanhas políticas e debate político construtivo.
Reguladores e instituições de governança eleitoral
Reguladores e instituições de governança eleitoral podem não aplicar diretamente modelos de IA generativos. Ainda assim, devem desenvolver capacidades para coordenar e comunicar a nível técnico com equipas de campanha, empresas de plataformas e criadores de IA generativa. O Coordenador do Serviço Digital Alemão será o Bundesnetzagentur, também responsável pelas telecomunicações e possuindo expertise técnica dentro de sua instituição. Aqui poderia ser possível exigir plataformas online muito grandes (VLOPs) e mecanismos de busca online muito grandes (VLOSEs) para relatar especificamente sobre os riscos políticos e eleitorais de seus serviços e, potencialmente, até mesmo um monitoramento contínuo da esfera eleitoral por plataformas e atores da sociedade civil. Olhando para o futuro, especialmente quando a IA generativa começar a “dançar” no que diz respeito a ser autônoma e melhorar e recodificar a si mesma,
Resumo
Argumentamos que, como a IA generativa ainda não dança como uma atuação autônoma, a maioria das aplicações da IA generativa fornece ferramentas para todos os conjuntos de atores. No entanto, essas ferramentas terão consequências significativas para as campanhas eleitorais e seu uso por atores políticos pode representar desafios para a integridade das eleições. Assim, códigos de campanha por campanhas organizadas e estreita coordenação de reguladores e provedores de plataformas digitais são essenciais para limitar o potencial de conteúdo enganoso ou desinformante gerado e disseminado por aplicativos e sistemas de IA generativa. O estabelecimento desses mecanismos de segurança será crucial para evitar interferências e proteger a integridade das próximas eleições, como a eleição europeia e a eleição presidencial dos EUA em 2024 e a eleição federal alemã em 2025.
Comentários
Postar um comentário