Como funciona tecnologia de monitorar postagens que violam o Facebook. O Facebook monitora os Padrões da Comunidade do Facebook e / ou as Diretrizes da Comunidade do Instagram usando tecnologia.
Fazendo previsões e desenvolvendo modelos. Como funciona tecnologia de monitorar postagens
As equipes de inteligência artificial são as primeiras a se envolver. Eles desenvolvem algoritmos de aprendizado de máquina que podem reconhecer o conteúdo de uma imagem ou compreender palavras, entre outras coisas.
A equipe de saúde, é a que está encarregada de promover a detecção e fazer cumprir os regulamentos, expande esses algoritmos para construir modelos mais detalhados que antecipam pessoas e conteúdo. Essas previsões ajudam então a colocar os planos em prática.
Um modelo de IA, por exemplo, pode prever se um material é um discurso de ódio ou violento e explícito. Na tecnologia de monitoramento avalia se alguma ação, como exclusão, rebaixamento ou envio das informações a uma equipe analítica humana para exame adicional, é necessária.
Verificação humana da aprendizagem por meio da repetição
Essa tecnologia de monitoramento de conteúdo é treinada para reconhecer certos sinais à medida que são desenvolvidos.
Algumas tecnologias, por exemplo, buscam nuances nas fotografias, enquanto outras aprendem a ler a linguagem. Um novo tipo de tecnologia pode primeiro ter ceticismo sobre se o material viola os padrões.
Esse sistema desenvolvido pode, então, aprender com cada julgamento humano e as equipes de análise podem chegar à conclusão final. A tecnologia se torna cada vez mais precisa com o tempo, à medida que aprende com milhares de julgamentos humanos.
As regras variam conforme o produto, normas sociais e linguagem se desenvolvem. Como consequência, tem-se que educar a equipe de tecnologia e análise em etapas.
Identificar infratores reincidentes. Como funciona tecnologia de monitorar postagens
O sistema é bastante eficaz em detectar informações repetidas, até milhões de vezes. Se o material for idêntico ou muito semelhante a outro conteúdo ilegal, esse sistema entrará em ação. Isso é particularmente valioso em esforços de desinformação, memes e outros materiais virais.
Contrastes que são sutis
A mesma informação pode ser encontrada e removida repetidamente por esse programa. No entanto, ensinar um computador a reconhecer variações sutis na escolha de palavras ou como pequenas alterações podem afetar o contexto é uma grande dificuldade.
Isso é simples para os humanos compreenderem, mas é mais difícil para a tecnologia compreender. Há uma chance de que uma das partes cometa um erro crítico.
Se a tecnologia for muito dura, milhões de postagens não infratoras serão removidas. Se não for agressivo o suficiente, ele irá ignorar a captura de tela com a barra de menu diferente da original e ignorar o conteúdo.
E por conta disso, foi dedicado um tempo significativo para trabalhar essas características. Muito dinheiro foi investido no aprimoramento da capacidade dessa tecnologia de identificar pequenas variações nas informações nos últimos anos. A cada dia, ela melhora sua precisão e aprende mais.
Confira outros artigos:
