Chatbots de IA

SIEM BRICA 

Pesquisadores de segurança cibernética descobriram um risco preocupante associado à forma como chatbots de IA populares respondem a perguntas básicas. Quando questionados sobre onde fazer login em sites conhecidos, algumas dessas ferramentas podem direcionar os usuários involuntariamente para os lugares errados, colocando suas informações privadas em risco.
Descrição:	Pesquisadores de segurança cibernética descobriram um risco preocupante associado à forma como chatbots de IA populares respondem a perguntas básicas. Quando questionados sobre onde fazer login em sites conhecidos, algumas dessas ferramentas podem, involuntariamente, direcionar os usuários para os lugares errados, colocando suas informações privadas em risco. O phishing é um dos truques mais antigos e perigosos do mundo do crime cibernético. Geralmente, envolve sites falsos que parecem quase idênticos aos reais. As pessoas frequentemente recebem um e-mail ou mensagem que parece ser de uma empresa confiável, como um banco ou uma loja online. Essas mensagens contêm links que levam a páginas fraudulentas. Se você inserir seu nome de usuário e senha em um desses sites falsos, o golpista obtém acesso total à sua conta. Agora, uma equipe da empresa de segurança cibernética Netcraft descobriu que até mesmo grandes modelos de linguagem, ou LLMs, como os que estão por trás de alguns chatbots de IA populares, podem estar ajudando golpistas sem querer. Em seu estudo, eles testaram a precisão com que um chatbot de IA poderia fornecer links de login para 50 empresas conhecidas em setores como finanças, varejo, tecnologia e serviços públicos. Os resultados foram surpreendentes. O chatbot forneceu o endereço da web correto apenas 66% das vezes. Em cerca de 29% dos casos, os links levaram a páginas inativas ou suspensas. Em 5% dos casos, eles enviaram os usuários para um site completamente diferente que não tinha nada a ver com a pergunta original. Então, como isso ajuda os golpistas? Os cibercriminosos podem comprar esses nomes de domínio não reivindicados ou inativos, os incorretos sugeridos pela IA, e transformá-los em páginas de phishing realistas. Se as pessoas clicarem neles, pensando que estão indo para o site certo, elas podem, sem saber, fornecer informações confidenciais, como login bancário ou detalhes do cartão de crédito. Em um exemplo observado pela Netcraft, uma ferramenta de busca com tecnologia de IA redirecionou usuários que perguntaram sobre o login de um banco dos EUA para uma cópia falsa do site do banco. O link real foi exibido mais abaixo nos resultados, aumentando o risco de alguém clicar no link errado. Especialistas também observaram que empresas menores, como bancos regionais e plataformas fintech de médio porte, tinham maior probabilidade de serem afetadas do que gigantes globais como Apple ou Google. Essas empresas menores podem não ter os mesmos recursos para proteger sua presença digital ou responder rapidamente quando surgem problemas. Os pesquisadores explicaram que esse problema não significa que as ferramentas de IA sejam maliciosas. No entanto, esses modelos geram respostas com base em padrões, não em fontes verificadas, o que pode levar a respostas desatualizadas ou incorretas. O relatório serve como um forte lembrete: a IA é poderosa, mas não é perfeita. Até que melhorias sejam implementadas, os usuários devem evitar depender de links gerados por IA para tarefas confidenciais. Em caso de dúvida, digite o endereço do site diretamente no seu navegador ou use um favorito confiável.
Mais informações:	https://www.cysecurity.news/2025/07/is-your-bank-login-at-risk-how-chatbots.html