Todos já vimos erros da resposta da IA, seja por texto, imagem ou som, umas mais absurdas, outras menos.
Uns erros podem ser mais absurdos, outros podem ser apenas factuais, isso é, quando a IA entrega uma resposta correta, mas inválida no tempo.
Hoje é difícil um consenso sobre o que de fato gera essas alucinações.
Um dos pontos que podem gerar esses erros, é o processo de rotulagem de dados. Calma, respira, será explicado.
Uma das primeiras formas de aprendizado da máquina é o chamado “aprendizado supervisionado”.
Suponhamos que desejamos criar uma IA capaz de diferenciar gato de cachorro, para isso, inserimos uma foto de um cachorro e “carimbamos” essa foto com a palavra “cachorro”.
Vamos fazendo o mesmo para fotos de gato.
Este “carimbo” chamamos de label ou rótulo, e o ato de “carimbar” chamamos de processo de rotulagem e quanto mais imagens vamos inserindo no sistema, o sistema melhor sua acuidade no reconhecimento de gato ou cachorro.
Mas se nesse processo de rotulagem vier uma foto de um canguru e por algum motivo seja carimbada como cachorro enquanto deveria ter sido rejeitada por exemplo, aí está um erro que vai gerar alucinação lá na outra ponta.
Um texto de Homer Simpson rotulado como de Camões, um audio de um cantor russo rotulado como sertanejo são outros exemplos desses casos.
Mais pra frente podemos falar sobre erros de embeddings e vetores.
Deixe um comentário