Novo modelo da OpenAI ‘pensa’ às escondidas e acende alerta de segurança

Segundo o South China Morning Post, o novo modelo da OpenAI oferece menos visibilidade sobre seu ‘processo de raciocínio’ — aquele passo a passo que ajuda a entender como a IA chega às respostas. Para pesquisadores, isso é motivo de preocupação.

Faz sentido o receio. Se nem dá pra inspecionar como o modelo pensa, fica mais difícil detectar quando ele engana, alucina ou age de forma perigosa. A OpenAI alega proteger propriedade intelectual e evitar mau uso, mas o efeito prático é menos transparência justamente quando os sistemas ficam mais capazes.

É um dilema que atinge o setor inteiro, não só a OpenAI. Ainda assim, opacidade e poder crescente formam uma combinação que merece muito mais escrutínio do que costuma receber.

Via South China Morning Post.

Fonte: South China Morning Post · Imagem de capa: South China Morning Post