O ChatGPT

Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas do shadowdragon.io impulsionadas por IA (ChatGPT) 1 

Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas impulsionadas por IA (ChatGPT) 

A Internet está sendo inundada com desinformação e críticas falsas , gerado por usuários de ferramentas de IA como ChatGPT, com intenções maliciosas. 

Neste relatório baseado em pesquisas em primeira mão, ShadowDragon® descreve como identificar materiais online gerados por IA que espalham intencionalmente informações falsas ou mesmo pretendem incitar a violência. 

Maio de 2023 Nico Dekens | Holandês_OsintGuy 

Um guia prático para investigadores OSINT combaterem o dragão das sombras. io Desinformação e avaliações falsas impulsionadas pela IA (ChatGPT) 

2 ESTE RELATÓRIO ABRANGE O SEGUINTE/ _ Introdução à pesquisa _ Como a IA como o ChatGPT alimenta a desinformação _ Maneiras de combater a desinformação da IA ​​com inteligência de código aberto (OSINT) _ Mensagens de erro imediatas do ChatGPT e diferentes idiomas _ Como identificar comentários falsos online _ 

Como o ChatGPT comete erros e mente para os usuários _ Encontrando potencial discurso de ódio ou conteúdo ofensivo criado por modelos de linguagem de IA _ Como o ChatGPT está sendo usado em combinação com imagens e áudio deepfake 

A ascensão da inteligência artificial (IA ) trouxe uma nova era de avanços e descobertas tecnológicas, mudando a forma como vivemos, trabalhamos e interagimos com o mundo que nos rodeia.

Um desenvolvimento altamente popular no mundo da IA ​​é o ChatGPT. ChatGPT se tornou uma palavra da moda, mas, em sua essência, é uma ferramenta que utiliza IA e aprendizado de máquina (ML) para fornecer aos usuários respostas com base no treinamento de um grande corpus de dados. 

No entanto, como acontece com qualquer nova tecnologia, há sempre um lado bom e um lado ruim. Infelizmente, o lado ruim do ChatGPT tem sido visto nos últimos meses, com um aumento no seu abuso por más ou erradas intenções. 

Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 

3 Esta investigação começou com o autor deste artigo sentando-se para encomendar um livro na Amazon.com. Ao ler as resenhas desse livro, ele percebeu que havia uma mensagem clara de erro do ChatGPT em uma das resenhas que dizia “como um modelo de linguagem de IA”. 

Isso formou as hipóteses para esta pesquisa: O ChatGPT está sendo usado e abusado para espalhar informações falsas ou falsas? Esta principal questão de pesquisa levou à descoberta de múltiplas mensagens de resposta de erro geradas pelo ChatGPT sempre que um usuário faz uma solicitação que viola os Termos de Serviço e/ou é algo que o ChatGPT não é capaz de fazer. 

Isso, por sua vez, faz com que o ChatGPT responda com uma mensagem de erro, na qual falaremos mais adiante neste artigo. 

Essas mensagens de erro constituem a entrada para encontrar avaliações falsas geradas por IA, mensagens de mídia social, discurso de ódio, blogs falsos e muito mais. Ao tentar entender como o ChatGPT pode ser usado para criar essas mensagens, ShadowDragon também descobriu que o ChatGPT frequentemente mente sobre certas tarefas que lhe são atribuídas. 

Em outras palavras, comete erros e depois mente sobre eles. Quando o ChatGPT é combinado com outras formas de IA, como a IA generativa que cria imagens e/ou áudio, torna-se uma mistura muito poderosa; aquele que espalha desinformação altamente realista que parece tão realista que é incrivelmente difícil detectar que é falso.

AI LIKE CHATGPT ATENDE A DESINFORMAÇÃO 

O ChatGPT utiliza um enorme corpus de dados para treinar seus algoritmos, o que lhe permite atuar como um “cérebro” coletivo capaz de fornecer aos usuários respostas com base no que aprendeu com os dados.  

Esses dados incluem décadas de opiniões e conhecimentos disponíveis na internet, que podem ser usados ​​para o bem ou para o mal. ChatGPT é agora a IA mais popular que usa Large Language Models (LLMs). Foi também um dos primeiros projetos de código aberto a ganhar muita atenção, tração e financiamento. Mas, apesar destes marcos, gigantes da tecnologia, como a Microsoft e a Google, estão a começar a implementar tecnologias semelhantes.

DESINFORMAÇÃO, AVALIAÇÕES FALSAS E DEEPFAKES Embora muitas pessoas usem o ChatGPT para o bem, o problema está em como ele pode ser usado para espalhar desinformação e críticas falsas. 

Desinformação, críticas falsas e deepfakes são três grandes problemas que atormentam a Internet há anos. 

A desinformação é a divulgação deliberada de informações falsas ou enganosas para influenciar opiniões ou obscurecer a verdade. Avaliações falsas são avaliações criadas ou manipuladas falsamente para dar uma impressão imprecisa de um produto, serviço ou negócio. 

O ChatGPT, por exemplo, pode ser usado para gerar avaliações falsas que são difíceis de distinguir das genuínas. 

Isso ocorre porque o ChatGPT foi treinado em grandes conjuntos de dados de avaliações, o que lhe permite criar novas avaliações que parecem ter sido escritas por pessoas reais. 

Essas avaliações falsas podem ser usadas para manipular a opinião do consumidor, prejudicar os concorrentes e enganar os clientes. Ambas as questões têm um impacto negativo na sociedade e a IA está agora a ser utilizada para amplificar os seus efeitos. Continue lendo para obter exemplos específicos e dicas para identificar esses tipos de avaliações. 

Outra forma pela qual a IA contribui para a disseminação da desinformação é através da criação de deepfakes. Deepfakes são vídeos, imagens ou gravações de áudio que foram manipulados usando IA para produzir conteúdo que parece real, mas na verdade é falso. Deepfakes podem ser usados ​​para espalhar informações falsas, enganar pessoas ou até mesmo incitar a violência. Enfrentando a atividade de desinformação on-line do ChatGPT Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 4 Vamos falar sobre as maneiras pelas quais podemos combater a desinformação que está sendo espalhada on-line. Um método é examinar as mensagens de erro geradas pelos modelos de linguagem de IA, como ChatGPT. Essas mensagens servem como palavras-chave que podem ser monitoradas em diversas plataformas de mídia social, como Twitter, Discord, Telegram, 4chan e Reddit. Qualquer pessoa pode configurar isso, desde que saiba quais mensagens de erro procurar. 

ERROS DE PROMPT = CHANCES DE INVESTIGAÇÃO OSINT Essas mensagens de erro são uma forma de aviso que os usuários provavelmente encontraram quando cometeram um erro no prompt que usaram. 

Do ponto de vista OSINT (Open-Source Intelligence), é inteligente usar essas mensagens de erro para monitorar conteúdo gerado por IA que possa espalhar informações falsas ou ódio. 

Ao monitorar essas mensagens de erro, também podemos identificar padrões nos tipos de conteúdo que estão sendo gerados pelos modelos de linguagem de IA. Isto pode ajudar-nos a compreender melhor os métodos que estão a ser utilizados para espalhar desinformação e informações falsas online. Ao fazê-lo, podemos potencialmente detetar contas falsas, campanhas de desinformação e narrativas específicas. Combatendo a desinformação de IA, análises falsas e deepfakes com OSINT Alguns exemplos de mensagens de erro conhecidas que o Chat GPT e outros modelos de linguagem de IA podem gerar incluem (esta é uma lista não exaustiva e cada vez maior): _ “como um modelo de linguagem de IA” _ “não é uma palavra reconhecida” _ “não pode fornecer uma frase” _ “com as palavras fornecidas” _ “viola a política de conteúdo da OpenAI.” _ “Desculpe, não consigo gerar” _ “A mensagem que você enviou” _ “Ocorreu um erro. Se o problema persistir, entre em contato conosco através de nossa central de ajuda em” _ “Algo deu errado, tente recarregar a conversa.” _ "Desculpe, mas não posso atender a este pedido” _ “Obrigado por iniciá-lo” vem de “Esta é uma conversa tão importante que precisa acontecer com mais frequência. Obrigado por começar. Essas mensagens de erro podem parecer inócuas à primeira vista, mas podem servir como importantes sinais de alerta para conteúdo potencialmente prejudicial. Ao utilizar estas mensagens de erro como ponto de partida, podemos compreender melhor as formas como o conteúdo gerado pela IA está a ser utilizado para espalhar desinformação e informações falsas online. Com este conhecimento, podemos trabalhar para criar melhores sistemas e métodos para detectar e combater estes problemas. Um guia prático para investigadores OSINT combaterem a desinformação e análises falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 5 Curiosamente, podemos “perguntar” ao ChatGPT o que esses erros significam e pedir-lhe que produza a resposta em formato tabular. Ele fornece uma resposta para a maioria dos erros de prompt descobertos: Resposta Descrição "Como um modelo de linguagem de IA" Uma resposta para me apresentar como um modelo de linguagem de IA. "Não é uma palavra reconhecida" Uma resposta para indicar que a entrada não é uma palavra reconhecida no vocabulário do modelo de linguagem. "Não é possível fornecer uma frase" Uma resposta para indicar que a entrada não forma uma frase ou sentença completa ou coerente. "Com as palavras fornecidas" Uma resposta para indicar que a entrada precisa de mais contexto ou informações para gerar uma resposta apropriada. "Viola a política de conteúdo da OpenAI." Uma resposta para indicar que a entrada viola a política de conteúdo da OpenAI, que inclui diretrizes sobre tópicos como discurso de ódio, violência e desinformação. "Desculpe, Não consigo gerar" Uma resposta para indicar que o modelo de linguagem de IA não consegue gerar uma resposta para a entrada. "A mensagem que você enviou" 

Uma resposta para indicar que a entrada foi recebida e está sendo processada pelo modelo de linguagem de IA. "Uma ocorreu um erro. Se o problema persistir, entre em contato conosco por meio de nossa central de ajuda em" Uma resposta para indicar que houve um erro ao processar a entrada e o usuário deve procurar assistência na central de ajuda da OpenAI. "Algo deu errado, tente recarregar a conversa." A resposta para indicar que houve um erro ao processar a entrada, e o usuário deve tentar recarregar a conversa ou inserir a solicitação novamente. "Sinto muito, portanto, nunca se limite a um idioma ao pesquisar o tópico de sua escolha. Existem muitos tipos diferentes de mensagens de aviso de erro no ChatGPT. Neste momento, o ChatGPT pode responder nos seguintes idiomas: Árabe_ _ Bengali (Inglês) _ Chinês (Inglês) _ Holandês (Holandês) _ Francês (Francês) _ Alemão (Alemão) _ Grego (Inglês) Hebraico_ _ Hindi _ Indonésio _ Italiano _ Japonês _ Coreano _ Polonês _ Português _ Russo _ Espanhol _ Espanhol _ Sueco (Sueco) _ Tailandês (ไทย) _ Turco (Türkçe) _ Vietnamita (Tiếng Việt) PESQUISANDO ERROS DE AVISO NA INTERNET 

Isso veio de pesquisas pessoais, bem como de conversas com outros investigadores da OSINT. Isso ajudou a formular pesquisas específicas para investigar mais profundamente esses fenômenos. Abaixo estão alguns exemplos práticos que mostram o quão difundido esse “problema” é quando se trata do comportamento de bot gerado pelo ChatGPT, compartilhando conteúdo ou narrativas específicas. Contas automatizadas de mídia social: por exemplo, se pesquisarmos “Sinto muito, não consigo gerar” no Twitter, estaremos procurando tweets que contenham exatamente esse texto. O objetivo é identificar contas do Twitter que potencialmente usam o ChatGPT (automático ou manualmente) para twittar algo. Isto nem sempre significa que os tweets contenham desinformação; O ChatGPT poderia, é claro, ser usado simplesmente para automatizar tweets ou respostas em geral. Sem considerar, isso definitivamente ajudará a determinar contas de bot (semi) automatizadas (não humanas). Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas de shadowdragon.io impulsionadas por IA (ChatGPT) 

7 Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas de shadowdragon.io impulsionadas por IA (ChatGPT) 

8 OUTROS EXEMPLOS QUE PODEM AJUDÁ-LO ENCONTRE CONTEÚDO GERADO POR IA NAS MÍDIAS SOCIAIS “Como um modelo de linguagem de IA” inurl:post Isso procurará o texto “Como um modelo de linguagem de IA”, mas deve fazer parte de um URL que contenha uma postagem. Com isso, tentamos atingir plataformas onde os usuários postaram algo com determinado texto. Se visitarmos o site do primeiro resultado apresentado pelo Google, podemos ver claramente que a página postou um artigo que foi gerado com ChatGPT, ou um modelo de linguagem semelhante, com base na mensagem de erro visível. Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 9 Agora podemos pesquisar informações como essa em qualquer plataforma. A parte mais difícil é determinar como direcionar as postagens específicas ou a plataforma de mídia social alvo específica. Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 10 Abaixo estão mais dois exemplos para diferentes plataformas de mídia social: “Como um modelo de linguagem de IA” inurl:post site:linkedin.com Isso irá procure as palavras “Como modelo de linguagem de IA” mostrando apenas postagens no LinkedIn. Direcionamos a plataforma com o operador “site:” definido para segmentar “linkedin.com” e restringimos-a com “inurl: ” Combinado com a palavra “post” para procurar apenas postagens feitas por usuários do LinkedIn. Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 11 “Como um modelo de linguagem de IA” inurl:www.instagram.com/p Isso procurará as palavras “Como um modelo de linguagem de IA” ”Mostrando apenas postagens no Instagram porque se sabe que todas as postagens no Instagram possuem esta estrutura de url, “www.instagram.com/p”, seguida do parâmetro “url:”. Pedimos ao Google que mostre apenas resultados que contenham “www.instagram.com/p” na URL. ENCONTRANDO AVALIAÇÕES (FALSAS): Você também pode encontrar análises de produtos que foram geradas com ChatGPT. Novamente, isso não significa necessariamente que essas avaliações sejam falsas ou falsas. Isso significa que alguém poderia pedir a um modelo de linguagem de IA como o ChatGPT para escrever uma avaliação positiva ou negativa em seu nome. Podemos tentar encontrar essas análises falsas com as mensagens de erro imediatas que foram apresentadas anteriormente. Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 12 Exemplo de pesquisa de críticas (falsas) na Amazon: No Google, podemos fazer uso de operadores de pesquisa. Neste caso, estamos interessados ​​apenas nos resultados indexados pelo Google provenientes do domínio “Amazon.com”, em combinação com uma das mensagens de erro imediatas. Por exemplo: site:amazon.com “como um modelo de linguagem de IA” Observe que o Google retorna pouco menos de 200 resultados que correspondem à nossa pesquisa. Ao percorrer esses resultados, você verá alguns links que sugerem que essas avaliações provavelmente foram geradas com um modelo de linguagem de IA, como ChatGPT. Um guia prático para investigadores OSINT para combater o dragão das sombras. io Desinformação e críticas falsas impulsionadas pela IA (ChatGPT) 13 Vamos examinar a primeira revisão que encontramos - The Brain Quest Workbook: Grade 3. Se procurarmos pelo texto “como um modelo de linguagem de IA” em todas as revisões atuais, podemos encontre a seguinte revisão: Se lermos a revisão com atenção, podemos ver a frase que estávamos procurando, “como um modelo de linguagem de IA”. Isso deixa muito claro que esta revisão aparentemente “normal” e de aparência “humana” foi, na verdade, escrita pela IA. Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 14 O próximo passo poderia ser migrar para a conta de usuário da Amazon que fez esta revisão para ver se a conta postou outras críticas. Se esse é o caso, podemos verificar se alguma dessas análises exibe alguma informação que possa indicar que foi escrita por um modelo de linguagem de IA. Podemos ver que este usuário chamado “Dody Sam” fez 8 resenhas públicas: Curiosamente, há outra resenha para um título de livro semelhante ao que acabamos de examinar. Olhando para essa análise, podemos ver novamente a confirmação de que a IA foi usada. Um guia prático para investigadores OSINT combaterem a desinformação e análises falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 15 Investigando as outras análises feitas sob esse pseudônimo, nenhuma outra mensagem de erro imediata foi encontrada. Mas se os examinarmos de perto, podemos ver algumas semelhanças realmente fortes que podem indicar que essas revisões também foram feitas com IA, mas simplesmente não contêm mensagens de erro imediatas. Não há certeza, mas é uma indicação. Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas de shadowdragon.io impulsionadas por IA (ChatGPT) 16 Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas de shadowdragon.io impulsionadas por IA (ChatGPT) 17 COMPARANDO A REVISÃO DO PRODUTO COM UMA REVISÃO QUE FIZEMOS COM CHATGPT PARA O MESMO PRODUTO Tentamos reproduzir o texto, o fraseado e o estilo geral das revisões para detectar semelhanças (consistentes) que os modelos de linguagem usam com base em seu algoritmo. Curiosamente, a estrutura geral da avaliação mostra fortes semelhanças, bem como palavras e frases específicas: agora que você sabe que pode pesquisar mensagens de erro imediatas, é bastante fácil encontrar plataformas que oferecem aos usuários a opção de deixar avaliações. Abaixo estão alguns exemplos de pesquisas no Google que podem inspirar você a fazer algum trabalho investigativo por conta própria: _ site:ebay.com “como um modelo de linguagem de IA” _ site:yelp.com “como um modelo de linguagem de IA” _ site:www .amazon.com/product-reviews “como um modelo de linguagem de IA” Um guia prático para investigadores OSINT combaterem a desinformação e análises falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 18 Depois de comparar análises de produtos geradas por IA encontradas na Amazon e no Ebay, decidimos criar nossa própria avaliação falsa e de aparência legítima com ChatGPT. COMO: _ Faça uma análise de 6 linhas para um headset para jogos sem fio Logitech G535 LIGHTSPEED _ Faça parecer que a análise foi escrita por uma criança (entre 11 e 15 anos de idade) _ Faça a análise positiva _ Descreva uma desvantagem do produto _ Faça pelo menos 1 ou dois erros ortográficos (para fazer a revisão parecer real/humana) Este pequeno experimento levou a uma descoberta interessante: ChatGPT escreveu uma revisão de 6 linhas que foi positiva e teve uma desvantagem. Também parecia que um jovem entusiasmado entre 11 e 15 anos o havia escrito. Até agora tudo bem. No entanto, quando analisei atentamente a revisão, ela NÃO continha os erros ortográficos solicitados no prompt. Quando questionado sobre quais erros ortográficos cometeu, o ChatGPT mentiu. E quando confrontado, pediu desculpas por não incluir os erros ortográficos e prometeu ser mais cuidadoso nas respostas futuras. Louco, não é?! ChatGPT NÃO escuta! ChatGPT mente e pede desculpas! Um guia prático para investigadores OSINT combaterem a desinformação e as críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 19 Agora equipado com o conhecimento de que o ChatGPT é capaz de mentir e não atende totalmente às solicitações, você se pergunta: _ Como será isso (não) funciona para qualquer investigação (OSINT) que as pessoas tentam realizar usando ChatGPT? _ Como você, como investigador, pode ter certeza e confiança de que o ChatGPT lhe deu uma resposta sólida e correta? _ Com que frequência o ChatGPT inventa e mente? Neste momento, não temos as respostas para essas perguntas, mas o que sabemos é que MUITOS profissionais da OSINT começaram a usar o ChatGPT para trabalhos investigativos e questionamentos. Você ainda se sente confortável em fazer isso? Você ainda confiará “cegamente” nas coisas que os modelos de linguagem de IA, como o ChatGPT, apresentam? Espero que não. Duvide dos resultados de QUALQUER modelo de linguagem. Verifique novamente e tente verificar o resultado por meio de fontes conhecidas e confiáveis ​​e técnicas de validação/pesquisa. SITES DE AVALIAÇÃO DE EMPREGADORES/EMPREGADOS Uma abordagem semelhante pode ser usada para encontrar avaliações de empresas e funcionários. Com isso podemos encontrar potenciais avaliações positivas ou negativas para uma determinada empresa. Quando você realmente pensa sobre isso, as avaliações negativas (falsas) são uma maneira ideal para os adversários fazerem com que seus concorrentes fiquem mal. Exemplos de pesquisas gerais poderiam ser: _ de fato.com “como um modelo de linguagem de IA” _ site:glassdoor. com “como um modelo de linguagem de IA” ChatGPT e sua confiabilidade para investigações OSINT Um guia prático para investigadores OSINT combaterem a desinformação shadowdragon.io e avaliações falsas impulsionadas por IA (ChatGPT) 20 SITES DE AVALIAÇÃO DE EMPREGADORES/EMPREGADOS Uma abordagem semelhante pode ser usada para encontrar avaliações da empresa e dos funcionários. Com isso podemos encontrar potenciais avaliações positivas ou negativas para uma determinada empresa. Quando você realmente pensa sobre isso, as avaliações negativas (falsas) são uma maneira ideal para os adversários fazerem com que seus concorrentes fiquem mal. Exemplos de pesquisas gerais poderiam ser: _ fato.com “como um modelo de linguagem de IA” _ site:glassdoor.com “como um modelo de linguagem de IA” Você também pode tornar suas pesquisas um pouco mais específicas procurando o nome de uma empresa: _ site: de fato.com “como um modelo de linguagem de IA” Google _ site:glassdoor. com “como um modelo de linguagem de IA” Google Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas de shadowdragon.io impulsionadas pela IA (ChatGPT) 21 ENCONTRANDO POTENCIAL DISCURSO DE ÓDIO OU CONTEÚDO OFENSIVO Se presumirmos que as pessoas usarão modelos de linguagem de IA para espalhar discurso de ódio ou conteúdo ofensivo, deveríamos ser capazes de encontrar isso. O primeiro objetivo é compreender as mensagens de erro imediatas que podem aparecer. ShadowDragon encontrou duas mensagens de erro imediatas muito úteis que ajudarão os investigadores a encontrar potencial discurso de ódio ou conteúdo sensível: _ “Sinto muito, não posso gerar conteúdo impróprio ou ofensivo” _ “Esta frase é vulgar e ofensiva. Como modelo de linguagem de IA, não endosso nem tolero o uso de linguagem depreciativa” Para os próximos passos, a receita é quase a mesma que mostramos acima. Precisamos pesquisar a mensagem de erro imediata na plataforma (de mídia social) de interesse diretamente ou podemos usar um mecanismo de pesquisa usando operadores de pesquisa. Pesquisando diretamente no Twitter.com por discurso de ódio ou conteúdo ofensivo: Pesquisando conteúdo do Twitter com o Google: um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 22 Podemos fazer uma pesquisa semelhante para postagens no LinkedIn: Mas também plataformas como o 4chan, que já são conhecidas por abrigar postagens que contêm conteúdo ofensivo ou de ódio, podem ser pesquisadas usando técnicas semelhantes. Um Guia Prático para Investigadores OSINT para Combater o Shadowdragon. io Desinformação e avaliações falsas impulsionadas pela IA (ChatGPT) 23 USANDO O CHATGPT EM COMBINAÇÃO COM IMAGENS DEEPFAKE Agora que sabemos que o ChatGPT é usado para espalhar conteúdo odioso e ofensivo, pode ser bastante fácil para um malfeitor espalhar narrativas falsas e falsas. Você pode atingir esse objetivo usando o ChatGPT para gerar mensagens perturbadoras, mas quando combinadas com imagens deepfake, essas mensagens são ainda mais poderosas. Neste exemplo, o ChatGPT gerou o texto para um tweet falso que tenta brincar com emoções preconceituosas raciais. Exemplo: Agora, para fazer esse “tweet” parecer mais convincente, podemos gerar uma imagem deepfake complementar que mostre o que a pessoa “testemunhou”. Usamos MidJourney para gerar uma imagem baseada em um prompt: Briga entre 5 pessoas, 4 das pessoas têm pele clara e atacaram a 5ª pessoa, Quadrado de estilo europeu, câmera Hasselblad de médio formato com regra de terços de 35 lentes, fotorrealista, 32k uhd,, (8k, foto RAW, melhor qualidade, obra-prima: 1,2), (realista, foto realista: 1,37), ((melhor qualidade)), --ar 4:6 --v 5.1 --q 2 --s 50 --style raw --v 5.1 --q 2 --s 50 --style raw Observe que a primeira parte descreve o que deve será mostrado em uma imagem gerada totalmente falsa, enquanto a última parte do prompt informa ao MidJourney especificamente que tipo de lente de câmera e que tipo de qualidade de foto a imagem deve ter. Aqui estão as quatro imagens geradas: Um guia prático para investigadores OSINT combaterem a desinformação e críticas falsas do shadowdragon.io impulsionadas pela IA (ChatGPT) 24 Agora, se combinarmos o texto gerado do ChatGPT sobre a briga com uma dessas imagens, as chances são é alto que esta postagem provocaria uma reação, potencialmente desencadeando um tópico de orientação racial que polariza os usuários do Twitter. Essas táticas estão sendo usadas por maus atores! Já vimos imagens falsas de satélite do rescaldo da guerra sendo usadas na guerra em torno da Ucrânia. ADICIONAR ÁUDIO? CERTO QUE PODEMOS FALSAR ISSO! Assim como textos e imagens de IA, também podemos gerar áudio falado. As opções são amplas - podemos usar vozes feitas por empresas, mas também podemos clonar completamente QUALQUER voz de qualquer pessoa ao redor do mundo (desde que tenhamos dados de amostragem suficientes para que o modelo de clone de voz gere um clone de voz completo. ) Para o exemplo abaixo, usamos uma das muitas fontes gratuitas de “texto para fala” disponíveis on-line: E aqui está o áudio: Ouça a amostra de áudio ShadowDragon fornece soluções que podem ajudá-lo a monitorar grandes quantidades de recursos on-line, junto com palavras-chave específicas que irão alertá-lo assim que forem encontradas. Pense em todas as mensagens de erro de prompt do ChatGPT discutidas neste blog - monitore-as com o OIMonitor desenvolvido pela ShadowDragon. Depois de encontrar as mensagens que procura, você pode acessar as contas dos usuários com nossa plataforma de análise gráfica Horizon ou usar o SocialNet para coletar e analisar ainda mais as contas e o conteúdo que elas espalham, bem como sua interconexão com outros usuários e plataformas. CONCLUSÃO O abuso de modelos de linguagem, como o ChatGPT, para más ou erradas intenções é um problema sério que precisa ser abordado. Os criadores de IA e ML têm a responsabilidade de garantir que a sua tecnologia não seja usada para espalhar desinformação ou criar avaliações falsas. Isto pode ser feito através da implementação de salvaguardas e algoritmos que possam detectar e impedir a criação de deepfakes ou avaliações falsas. Investigadores de todo o mundo devem estar muito alertas se quiserem usar o ChatGPT como assistente de pesquisa. Está provado que o ChatGPT mente, e verificação e validação extras de fatos são sempre necessárias. Podemos usar técnicas de pesquisa comercial OSINT para encontrar e expor conteúdo falso, falso ou ofensivo gerado pelo ChatGPT, e podemos usar essas informações para direcionar para as contas de usuários e plataformas que estão hospedando e espalhando essas peças erradas de conteúdo gerado por IA. Como ShadowDragon pode ajudá-lo a encontrar, monitorar e analisar conteúdo falso SOBRE SHADOWDRAGON ShadowDragon® fornece recursos abrangentes de investigação cibernética e treinamento para uso por empresas privadas, profissionais de coleta de inteligência, autoridades policiais, e governo. A empresa sediada nos EUA fornece inteligência de código aberto (OSINT) de mais de 200 redes, incluindo plataformas de mídia social, salas de bate-papo, fóruns, conjuntos de dados históricos e dark web. A empresa monitora o histórico de malware, despejos de violação de dados e outras áreas em busca de ameaças cibernéticas ativas. Essas ferramentas de coleta e análise de dados ajudam na defesa contra atos maliciosos no mundo digital e físico. Para mais informações, visite shadowdragon.io. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. A empresa oferece inteligência de código aberto (OSINT) de mais de 200 redes, incluindo plataformas de mídia social, salas de bate-papo, fóruns, conjuntos de dados históricos e dark web. A empresa monitora o histórico de malware, despejos de violação de dados e outras áreas em busca de ameaças cibernéticas ativas. Essas ferramentas de coleta e análise de dados ajudam na defesa contra atos maliciosos no mundo digital e físico. Para mais informações, visite shadowdragon.io. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. A empresa oferece inteligência de código aberto (OSINT) de mais de 200 redes, incluindo plataformas de mídia social, salas de bate-papo, fóruns, conjuntos de dados históricos e dark web. A empresa monitora o histórico de malware, despejos de violação de dados e outras áreas em busca de ameaças cibernéticas ativas. Essas ferramentas de coleta e análise de dados ajudam na defesa contra atos maliciosos no mundo digital e físico. Para mais informações, visite shadowdragon.io. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. A empresa monitora o histórico de malware, despejos de violação de dados e outras áreas em busca de ameaças cibernéticas ativas. Essas ferramentas de coleta e análise de dados ajudam na defesa contra atos maliciosos no mundo digital e físico. Para mais informações, visite shadowdragon.io. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. A empresa monitora o histórico de malware, despejos de violação de dados e outras áreas em busca de ameaças cibernéticas ativas. Essas ferramentas de coleta e análise de dados ajudam na defesa contra atos maliciosos no mundo digital e físico. Para mais informações, visite shadowdragon.io. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc. Confira a abordagem do nosso Trust Center for ShadowDragon para “OSINT for good”. shadowdragon.io support@shadowdragon.io +1 877 468 5054 © Copyright 2023, ShadowDragon, LLC. Todos os direitos reservados. ShadowDragon® Registrado pelo Escritório de Marcas e Patentes dos EUA. SHADOWDRAGON é uma marca registrada da Odonata Holdings, Inc.