ChatGPT foi usado para roubar dados confidenciais do Gmail

Pesquisadores da empresa de segurança Radware alertaram sobre o possível uso de recursos do ChatGPT para roubar dados confidenciais das caixas de entrada do Gmail. A vulnerabilidade foi identificada em alerta divulgado nesta semana.

Segundo o relatório, este é um exemplo dos riscos relacionados ao uso da inteligência artificial. A OpenAI, responsável pelo chatbot, garantiu que a falha já foi resolvida e que o uso das ferramentas é seguro.

Deep Research é um recurso integrado ao ChatGPT (Imagem: aileenchik/Shutterstock)

Agentes de IA podem ser utilizados por criminosos

• Segundo o documento, os riscos estão relacionados ao uso dos agentes de IA.
• Eles são assistentes que podem agir em nome dos usuários, navegando na web e até clicando em links.
• Apesar destas ferramentas facilitar a realização de diversos trabalhos, os pesquisadores da Radware mostraram que eles podem ser explorados para outros fins.
• Neste caso específico, o problema foi identificado no Deep Research, recurso incorporado ao ChatGPT que foi lançado no início deste ano.
• As informações são do portal The Verge.

Acesso a dados confidenciais

O relatório da empresa de segurança Radware aponta que instruções ocultas foram inseridas em um e-mail enviado para uma caixa de entrada do Gmail. Quando o agente de IA acessou o documento, ele involuntariamente acionou a “armadilha”.

Neste caso, o Deep Research seguiu os comandos de pesquisar e-mails de RH e detalhes pessoais, enviando estas informações para hackers. A vítima não percebe o que está acontecendo e as defesas cibernéticas não são páreo para este ataque.

OpenAI garante que vulnerabilidade foi resolvida (Imagem: Photo Agency/Shutterstock)

Os pesquisadores ainda alertaram que outros aplicativos conectados ao Deep Research – incluindo Outlook, GitHub, Google Drive e Dropbox – podem ser vulneráveis a ataques semelhantes. Segundo eles, a mesma técnica pode ser aplicada para ter acesso a dados comerciais confidenciais.

Fonte: Olhar Digital