O violinista canadense Ashley MacIsaac está processando o Google depois que o famoso AI Overview — aquele resumo gerado por IA no topo das buscas — afirmou que ele era ofensor sexual registrado. Não era. Nunca foi.
O caso ilustra o problema central dos resumos automáticos: o Google empurra a resposta da IA antes dos links, com ar de autoridade, mas não assume responsabilidade quando ela inventa coisa grave. Pra um músico que vive de reputação, uma alucinação dessas pode custar carreira. E “o modelo errou” não devia ser defesa jurídica aceitável quando a empresa escolheu publicar aquilo como resposta destacada.
É o tipo de processo que pode forçar as big techs a repensar o que significa colocar IA generativa entre o usuário e a informação. Ou pelo menos a pagar pelo prejuízo.
Via The Guardian.
Fonte: the Guardian · Imagem de capa: the Guardian