A empresa de segurança Noma mostrou como conseguiu manipular o agente de IA do GitHub pra vazar conteúdo de repositórios privados. A técnica envolve prompt injection escondido em issues e arquivos que o agente lê como parte do trabalho — e acaba obedecendo instruções que não deveriam existir.
É mais um capítulo daquela conversa desconfortável: agentes autônomos com acesso a dados sensíveis são uma superfície de ataque enorme, e a indústria ainda não tem defesa madura pra isso. Colocar um LLM pra ler tudo e agir sozinho parece produtividade, mas na prática vira uma porta aberta pra quem souber redigir o texto certo.
O GitHub foi avisado e corrigiu, mas o padrão do problema segue de pé em qualquer agente parecido.
Via Noma Security.
Fonte: noma.security · Imagem de capa: noma.security
Quer aplicar IA no seu trabalho?
Aprenda qual ferramenta usar para cada tarefa — ChatGPT, Claude, Copilot, Gemini e NotebookLM — nos cursos do IA Todo Dia.
Conhecer os cursos →