No dia a dia virtual, nos deparamos, constantemente, com ferramentas utilizadas por inteligência artificial capazes de categorizar, automaticamente, determinados conteúdos. Ao postar uma foto no Facebook, por exemplo, é bem comum que sugestões de marcações de amigos presentes na imagem sejam sugeridas. Ainda que auxiliando no treinamento dessas tecnologias, como quando respondemos captchas, sejamos capazes de supor a finalidade de alguns testes, aqueles que não entendemos recebem uma atenção especial de um público mal-intencionado: spammers e scammers.
Geralmente, quem busca driblar banimentos e denúncias por conteúdos abusivos se dedica a entender o funcionamento da inteligência artificial para se esquivar de detecção. Nesse processo, trabalho humano é um diferencial, mas não dá conta do recado. Além de ter de enfrentar o desenvolvimento constante de novas técnicas que não alertam o comportamento inadequado às máquinas, uma rede social como o Facebook lida com bilhões de contas ativas todos os meses.
