Um dos primeiros contratados da Anthropic e o ex-COO da METR se juntaram para atacar um problema que a própria indústria criou: agentes de IA que agem sozinhos e, às vezes, saem do trilho. A ideia da nova empresa é oferecer ferramentas para monitorar e conter esses sistemas antes que façam besteira.
Faz sentido no papel. Com todo mundo vendendo agentes autônomos que executam tarefas sem supervisão humana constante, alguém precisava pensar no freio. O detalhe irônico é que os mesmos círculos que empurram esses agentes agressivos agora criam startups para consertar o risco que ajudaram a espalhar.
Vale acompanhar se isso vira segurança real ou só mais uma camada de produto vendida como solução. O mercado de “IA que vigia IA” está só começando.
Via TechCrunch.
Fonte: TechCrunch · Imagem de capa: TechCrunch
Quer aplicar IA no seu trabalho?
Aprenda qual ferramenta usar para cada tarefa — ChatGPT, Claude, Copilot, Gemini e NotebookLM — nos cursos do IA Todo Dia.
Conhecer os cursos →