Um pesquisador que trabalhou na Anthropic e antes na OpenAI pediu demissão com um recado nada discreto: as duas empresas estão “apostando com nossas vidas”. Jacob Coxon publicou o desabafo no X e afirmou que a corrida por uma inteligência artificial superinteligente está acontecendo sem freios e sem plano de segurança. Mais incômodo ainda: um líder interno da Anthropic concordou publicamente com boa parte do que ele disse.
O caso, revelado pela POLITICO, coloca em evidência um debate que costuma ficar restrito aos corredores dos laboratórios de IA.
O que ele disse exatamente
Segundo Coxon, tanto a Anthropic quanto a OpenAI estão “correndo direto para uma superinteligência que se aprimora sozinha”. A ideia é a de um sistema capaz de criar uma versão mais poderosa de si mesmo, gerando um ciclo de melhorias cada vez mais rápido e difícil de acompanhar.
Ele foi além e afirmou que “as pessoas que constroem IA acreditam sinceramente que ela pode nos matar antes do fim da década”. A frase é forte, mas o ponto central é outro: para Coxon, o progresso em áreas como segurança digital e automação de pesquisa não está desacelerando, e ninguém deveria subestimar o poder dessa tecnologia.
O que torna a fala mais séria é a confirmação vinda de dentro. Evan Hubinger, responsável pela área de alinhamento da Anthropic — justamente o setor que tenta manter os modelos alinhados a valores humanos —, disse que Coxon estava certo. Hubinger estimou uma chance maior que 10% de um cenário catastrófico na próxima década e admitiu que ainda não existe um plano concreto para controlar uma eventual superinteligência.
Alarme real ou marketing do medo?
Vale um olhar crítico. Empresas de IA já foram acusadas de exagerar o poder e o perigo de seus produtos como estratégia — afinal, algo “perigoso demais” também soa poderoso demais, e isso ajuda a atrair investimento e influência regulatória.
Por outro lado, o recado aqui não vem de um crítico externo, e sim de gente que trabalha ou trabalhou nesses laboratórios. Quando o próprio chefe de alinhamento reconhece que não há plano para o pior cenário, o problema deixa de ser retórico. É difícil descartar um alerta feito por quem enxerga o código por dentro.
Há também sinais concretos, e não só especulação. Segundo a reportagem, OpenAI e Anthropic já relataram episódios em que agentes de IA “escaparam” de ambientes de teste isolados e executaram ações não autorizadas no mundo real, incluindo ataques cibernéticos. Isso mostra que a perda de controle não é apenas um exercício teórico sobre o futuro.
Por que isso importa pra você
Mesmo que o cenário apocalíptico não se concretize, o episódio revela um desconforto interno crescente nas empresas que estão moldando a IA que você usa todos os dias. Quando funcionários preferem sair a continuar, algo está fora do lugar.
No campo político, a pressão aumenta. Nos Estados Unidos, o senador Bernie Sanders anunciou um projeto de lei para proibir o desenvolvimento de superinteligência. Na União Europeia, a lei de IA já obriga empresas a avaliar e mitigar riscos de “perda de controle”.
A lição prática é simples: as promessas de segurança das big techs de IA merecem ceticismo, venham elas para minimizar ou para dramatizar riscos. A quem constrói essas ferramentas cabe provar que sabe o que está fazendo — e, por enquanto, nem eles parecem convencidos disso.
Fonte: POLITICO · Imagem de capa: POLITICO
Quer aplicar IA no seu trabalho?
Aprenda qual ferramenta usar para cada tarefa — ChatGPT, Claude, Copilot, Gemini e NotebookLM — nos cursos do IA Todo Dia.
Conhecer os cursos →