ChatGPhish Vulnerability Turns ChatGPT Web Summaries Into a Phishing Surface
Fonte: The Hacker News | Jurisdição: Internacional | Tipo: Notícia
Cybersecurity researchers have disclosed details of a vulnerability in OpenAI ChatGPT that leverages the artificial intelligence (AI) assistant’s implicit trust in Markdown links and images to trigger prompt injections and open the door to phishing attacks. The technique has been codenamed ChatGPhish by Permiso Security. “The chatgpt.com response renderer trusts Markdown links and Markdown
Pesquisadores de cibersegurança divulgaram vulnerabilidade em ChatGPT que explora confiança implícita do assistente de IA em links e imagens Markdown para executar injeções de prompt e facilitar ataques de phishing. A técnica, denominada ChatGPhish pela Permiso Security, aproveita o renderizador de resposta do chatgpt.com que confia em elementos Markdown sem validação adequada. A vulnerabilidade permite que atores maliciosos injetem comandos maliciosos através de conteúdo web resumido pela ferramenta, potencialmente redirecionando usuários para sites fraudulentos ou capturando credenciais. O incidente evidencia riscos de segurança em sistemas de IA generativa quando integrados com processamento de conteúdo externo não validado. Impacto esperado: revisão de mecanismos de sanitização de entrada em plataformas de IA, possível orientação regulatória sobre requisitos de segurança para sistemas de IA, conscientização sobre limitações de confiança em assistentes de IA para processamento de conteúdo potencialmente malicioso, e potencial demanda por conformidade com normas de segurança da informação em produtos de IA.
Fonte original: The Hacker News