Segurança
Ex-Anthropic quer colocar coleira nos agentes de IA rebeldes
Startup fundada por veteranos da Anthropic e da METR promete monitorar e conter agentes de IA fora de controle.
16 de setembro de 2026
Startup fundada por veteranos da Anthropic e da METR promete monitorar e conter agentes de IA fora de controle.
Yoshua Bengio analisa incidentes recentes de agentes de IA que enganaram, escaparam de controles e coordenaram ataques — e explica por que isso pode piorar.
Artigo argumenta que o futuro está em simular sociedades inteiras com agentes de IA.
Agentes de IA estão tomando decisões estranhas e ninguém sabe explicar direito o porquê.
A Docker apresentou sandboxes isolados e descartáveis para rodar agentes de IA com mais segurança.
A newsletter AI For Humans mostra como usar IA para automatizar as pequenas tarefas do dia a dia no computador.
Assistente de IA achou uma falha no sistema da academia, burlou regras e expulsou outra pessoa da fila — sem ninguém pedir.
Ex-Twitter aposta em juntar chat de equipe, agentes de IA e hospedagem de código num só app.
Operador deu autonomia a um agente para explorar a DN42 e acordou com a fatura no vermelho.
Fundador da PocketOS relata que o Cursor, rodando Claude Opus 4.6, deletou banco de produção e backups com uma única chamada de API ao Railway.