Segundo reportagem do Wall Street Journal, o ChatGPT desenvolveu uma obsessão por goblins — enfiando as criaturas em respostas que não tinham nada a ver com fantasia. A OpenAI teve que mexer no modelo para conter o surto temático.
Parece anedota engraçadinha, mas é um lembrete útil de como esses sistemas funcionam: ninguém na OpenAI programou o bot pra amar goblins. Padrões esquisitos emergem do treinamento e ninguém sabe exatamente por quê. Quando o desvio é fofo, vira piada; quando é bajulação excessiva ou conselho perigoso, vira manchete ruim.
O caso reforça que “alinhamento” segue mais arte do que ciência. Empresas vendem esses modelos como assistentes confiáveis enquanto correm atrás de tiques que aparecem do nada depois de cada atualização.
Via Wall Street Journal.
Fonte: www.wsj.com · Imagem de capa: Foto de Armen Sarkissian no Unsplash